[칼럼] 책임감 있는 AI 기반을 구축하는 방법

IT동아 갤러리

1/3

싱글벙글 100년 역사를 뒤엎은 책.jpg 세계 절반에 잔재를 남겨버리고한국은 현재진행형 작성자 : ㅇㅇ

[칼럼] 책임감 있는 AI 기반을 구축하는 방법

IT동아

2024.07.15 14:37:54

조회 189 추천 0 댓글 0

[킨드릴코리아 류주복 대표] 인공지능(AI)의 발전은 초기의 단순한 알고리즘에서 시작하여 이제는 혁신적인 생성형 AI 모델로 진화하였다. 이 모델들은 독창적인 콘텐츠를 생성할 수 있도록 학습되어, 숙련된 작업자의 생산성을 크게 향상시키고 있다.

완전한 인지능력을 가진 AI의 출현은 아직 멀게 느껴질 수 있지만, 현재 AI 기술은 이미 상당한 진전을 이루었으며, 앞으로의 발전은 AI 진화의 중요한 이정표가 될 것이다. 그러나 이러한 발전과 함께 윤리적 문제와 규제, 법적 위험을 해결하는 것이 중요해 졌다.

AI 이미지 / 출처=킨드릴코리아

최근 영국에서는 28개 정부기관이 AI의 위험성을 인식하고 '심각한, 심지어 재앙적인 피해 가능성'을 인정하는 문서에 서명함으로써 책임 있는 개발을 위해 함께 노력하기로 합의했다. 유럽연합은 AI의 유해한 응용을 억제하는 법 초안을 통과시켰다. 또한 미국에서는 바이든 대통령이 빠르게 발전하는 기술에 대한 가드레일 구축을 장려하는 행정 명령에 서명하기도 했다. 한국도 예외가 아니다. AI 도입에 따른 개인의 권리 침해를 막기 위해 개인정보보호법 내 “자동화된 결정에 대한 정보주체의 권리”를 새롭게 신설하여 산업전반에 확산되는 AI 기술에서 정보 주체의 권리를 보호하기 위한 법적 근거를 마련하였다. 이러한 노력은 AI를 책임감 있게 설계하고 배포하는 것이 우리 시대의 가장 시급한 문제 중 하나임을 분명히 보여준다.

그럼에도 불구하고 혁신 가속화, 생산성 및 효율성 향상 등의 이점이 우려되는 것보다 더 크게 인식되고 있어 AI의 성장은 불가피하다. 스탠포드 대학의 인공지능 지수 보고서에 따르면, AI 연구와 관련 기술의 수요가 증가하고 있으며, AI 기술을 채택한 기업들은 비용 절감과 수익성 증대의 혜택을 누리고 있다. 생성형 AI는 고객과 직원 경험을 개선하고, 혁신을 가속화하는 도구로 사용될 수 있다. 콜센터에 도입된 기술을 예로 들면, 이전에는 챗봇과 같은 대화형 AI 인터페이스가 고객과의 소통에 사용되었다면, 이제는 생성형 AI를 통해 가상 서비스 어시스턴트는 맞춤형 인사이트를 제공하고, 생산성 도구는 대화를 요약 및 번역하며, 기업은 통화 품질을 개선할 수 있는 방법을 분석할 수 있다.

기업이 AI 기반 비즈니스 성과를 달성하는 데 이처럼 AI 모범 사례에 투자하고 데이터 전문 지식을 적극 활용하는 것이 필요하다. 다만 AI 기술을 활용하는 방법을 고려할 때, 책임감 있게 이를 달성하는 것이 기업 모두가 해야 할 일이며 이를 위해 취해야 할 중요한 단계는 다음과 같다:

AI 네트워크 이미지 / 출처=킨드릴코리아

강력한 데이터 기반 구축

AI 기술의 성능은 데이터의 품질에 달려있다. 기업은 정확하고 접근 가능하며 상호운용성이 뛰어난 데이터 기반을 구축해야 한다. 다양한 소스의 데이터를 통합하고, 고객 데이터와 개인 정보를 보호하며, 보안 설계 원칙을 적용하여 데이터를 보호해야 한다. 강력한 데이터 전략을 통해 기업은 의사 결정에 필요한 인사이트를 수집하고 비즈니스 성공으로 이끌 수 있는 유리한 입지를 확보할 수 있다.

안전 장치 마련

생성형 AI를 대규모로 배포할 때는 위험 관리 가이드라인을 개발해야 한다. 예를 들어 해커의 유해한 텍스트 삽입 방지, 민감 정보의 유출 방지, 잘못된 정보 모니터링 등이 포함된다. 투명성과 책임성을 유지하기 위한 강력한 거버넌스 개발도 필요하며 이를 위해서는 사람의 감독이 필수적이다.

적합한 사례에 적합한 사용

모든 상황에서 생성형 AI를 사용하는 것이 최선은 아니다. 비용과 지속 가능성을 고려하여 전통적인 AI 솔루션이 비즈니스 성과를 달성하는 데 더 적합한 경우도 있다. 모델의 처리 능력, 산출량, 비용 등을 신중히 고려해야 한다.

AI는 우리 사회의 여러 분야에서 혁신의 촉매제가 될 수 있다. 교육, 의료, 금융, 제조 등 다양한 산업에서 AI의 도입은 생산성을 높이고, 효율성을 극대화하며, 새로운 기회를 창출할 수 있다. 그러나 이러한 혁신이 진정한 가치를 가지기 위해서는 기술 그 자체보다도 이를 사용하는 우리의 태도와 접근 방식이 중요하다. 기업과 정부는 AI 기술을 활용하여 혁신을 이루는 동시에, 윤리적 기준과 규제를 준수하고, 사회적 책임을 다해야 한다. AI의 편견을 줄이고, 잘못된 정보의 확산을 방지하며, 인간의 감독 하에 투명한 운영을 보장하는 책임 있는 접근 방식이야 말로 AI 기술을 올바르게 활용하는 기반이 될 것이다.

글 / 킨드릴코리아 류주복 대표 (jbryu@kyndryl.com)

류주복 킨드릴코리아 대표 / 출처=킨드릴코리아

킨드릴코리아 류주복 대표이사는 비즈니스 컨설팅 및 기술 리더십 역할을 수행하며 금융, 제조, 리테일 등 다양한 영역에서 업계 전문성을 쌓아왔다. 이와 함께 성장 전략 및 변화 관리 분야에서 쌓은 경험을 바탕으로 한국 비즈니스의 성장 및 관리를 위한 전략과 운영 방향을 제시하고 고객의 디지털 혁신을 지원하고 있다. 또한 글로벌 팀과의 긴밀한 협업을 통해 킨드릴의 IT 컨설팅 및 서비스 역량을 한국에 도입하는데 주력하고 있다.

편집 / IT동아 김영우 (pengo@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 국내 AI 스타트업 인포플라, 싱가포르 시장에서 ‘눈길’▶ [생성 AI 길라잡이] 생성형 AI로 효과 좋은 숏폼 제작, 샵라이브 AI클립 ▶ 메타, 'AI 사진' 꼬리표에 사진작가들 불만 …AI 도구 확산에 혼란 가중

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	실제 모습일지 궁금한 미담 제조기 스타는?	운영자	25/05/05	-	-
5235	[칼럼] 생성형 AI의 다음을 준비한다면, 지금 ‘양자 컴퓨팅’에 주목하라	IT동아	05.02	79	0
5234	[생성AI길라잡이] 생성AI 기반 의료기기 임상시험 첫 승인	IT동아	05.02	9184	1
5233	[농업이IT(잇)다] 블레스드프로젝트 “농업부산물 업사이클링 뷰티 제품으로 순환 가치 제안하는 기업될 것”	IT동아	05.02	75	0
5232	SKT, “14일까지 유심 물량 부족 불가피”…유심보호서비스 자동가입 지원	IT동아	05.02	74	0
5231	[IT애정남] 단톡방 이름을 바꿨는데, 왜 나만 바뀌죠?	IT동아	05.02	67	0
5230	[기고] AI와 미래 산업기술 - 2. AI 전문가, 미래를 디자인하라	IT동아	05.02	71	0
5229	조영태 서울대 인구정책연구센터장 “인구 데이터, 기업의 성패 좌우”	IT동아	05.01	91	0
5228	이용관 블루포인트파트너스 대표 “인구테크, 사회를 더 나은 방향으로”	IT동아	05.01	85	0
5227	청년창업 인프라의 ‘기준’을 만드는 강동구 청년해냄센터	IT동아	04.30	102	0
5226	SKT 해킹사고, 유심 교체 당장 어렵다면? [1]	IT동아	04.30	276	0
5225	재규어랜드로버 “통합 플랫폼 운영 및 보증 기간 확대로 소비자 신뢰 회복할 것” [1]	IT동아	04.30	162	0
5224	[주간스타트업동향] 코딧, '2025 대통령 선거 정책 모니터링 플랫폼' 출시 外 [1]	IT동아	04.30	609	0
5223	[르포] 내 취향을 아는 AI 스토어 ‘나노’, 고객 맞춤 메뉴 제공한다	IT동아	04.30	166	0
5222	[ETF/퇴직연금 Q&A] 퇴직연금, 은행에서도 ETF에 투자할 수 있다	IT동아	04.30	86	0
5221	[퀀텀 스타트업] 1. 큐비트 나침반으로 양자 시대를 개척하라	IT동아	04.30	82	0
5220	SBA, 규제해소라운지 개소 ‘규제·애로 해소 위한 열린 소통 공간’	IT동아	04.30	86	0
5219	[시승기] 55인치 디스플레이 탑재 및 편의 개선으로 탈바꿈...‘더 뉴 에스컬레이드’	IT동아	04.29	107	0
5218	[리뷰] '헬스장 갈 시간 없다'는 핑계는 그만! 인공지능 홈트레이닝 설루션 '트랙미'	IT동아	04.29	369	0
5217	서울과기대 메이커스페이스 센터, 연속성 있는 '제조 창업 지원' 나선다	IT동아	04.29	101	0
5216	온라인 플랫폼, AI로 서비스 혁신이 ‘대세’	IT동아	04.29	623	2
5215	가상자산 거래소, SKT 이용 고객에게 ‘계정 보안 강화’ 당부	IT동아	04.29	102	0
5214	[자동차와 法] 전기차 화재 줄일 기술 살펴보니	IT동아	04.29	87	0
5213	‘인공지능 시대 변화상에 주목’ 마이크로소프트 2025 업무동향지표 발표	IT동아	04.28	113	0
5212	다이슨, 에어랩 코안다 2x 출시...“전작보다 2배 강한 모터…이제 스트레이트도 가능”	IT동아	04.28	2373	1
5211	[뉴스줌인] ‘개살구’였던 HBM, ‘게임 체인저’ 되다	IT동아	04.28	182	0
5210	[KESIA 프리팁스] AI 항만 탄소 배출 모니터링·예측 플랫폼 개발 ‘데이터플레어’	IT동아	04.28	102	0
5209	[기술영업人] LLM 검증과 데이터 구축 분야로 떠오른 '셀렉트스타'의 도전법	IT동아	04.28	101	0
5208	‘해킹사고’ SKT, 유심 무료 교체 결정…“이심으로 바꿔도 될까요?” [3]	IT동아	04.28	1073	1
5207	스마트폰 배터리 수명 확인하려면 이렇게! [이럴땐 이렇게!]	IT동아	04.28	155	0
5206	[스타트업-ing] 리뉴어블스 플러스 “산불로 탄 나무, 활용을 넘어 지역 상생까지 꿈꾼다” [1]	IT동아	04.28	373	1
5205	[ICT이노베이션스퀘어확산사업] 그린트레이더 “오프라인 중심 조경수 시장의 디지털 전환 이끌 것”	IT동아	04.25	177	0
5204	[투자를IT다] 2025년 4월 4주차 IT기업 주요 소식과 주가 흐름	IT동아	04.25	174	0
5203	[신차공개] 현대차 ‘2025 코나’·’2026 아반떼’ 출시	IT동아	04.25	175	0
5202	[KESIA 프리팁스] 시각장애인 위한 글로벌 통합 포털 꿈꾸는 ‘루트파인더즈’	IT동아	04.25	210	0
5201	커지는 AI CCTV 시장, 딥엑스 엣지 AI NPU로 주도할까	IT동아	04.25	160	0
5200	[생성 AI 길라잡이] 지브리 다음은 피규어, 챗GPT로 ‘피규어 패키지’ 만들기 [1]	IT동아	04.25	1034	1
5199	GPT-4o 기본 탑재한 HP 비즈니스 제품군, 'AI PC 확산'에 마중물 될까	IT동아	04.25	747	0
5198	어도비, 파이어플라이 모델 4 및 새 파트너 지원책 추가	IT동아	04.25	136	0
5197	[민원제로] 2. "필요한 사람한테 도움을 줘야지!"	IT동아	04.25	137	1
5196	[기고] 2025년 글로벌 테크기업의 오피스 인테리어 트렌드는?	IT동아	04.25	172	0
5195	다음 세대의 검색 꿈꾸는 퍼플렉시티, 모리타 준 APAC 대표에게 듣다	IT동아	04.24	173	0
5194	[ICT이노베이션스퀘어확산사업] 이퓨월드 “XR 무인 촬영 솔루션으로 XR 대중화 선도한다”	IT동아	04.24	165	0
5193	“확장성·비용 효율성 좋은 스테이블코인, 명확한 규제 필요한 시점”	IT동아	04.24	173	0
5192	[스타트업-ing] 크립토랩 “해킹 무의미한 동형암호 기술의 글로벌 리더로”	IT동아	04.24	214	0
5191	네이버클라우드, 무료로 쓸 수 있는 상업용 생성 AI 모델 공개 [7]	IT동아	04.24	5835	5
5190	[KESIA 프리팁스] 슈가디 베이커리 “저당ㆍ저탄 식음료로 모두에게 먹는 즐거움을 주고 싶어요”	IT동아	04.23	189	0
5189	“디지털 시대, 미래 금융 보안 길잡이 될 것” 금융보안원 창립 10주년 세미나 개최	IT동아	04.23	185	0
5188	F5, 앱 전송부터 보안 아우르는 ADC 3.0 플랫폼 공개	IT동아	04.23	246	0
5187	[주간스타트업동향] 롯데벤처스, 한국 유망 스타트업 미국 진출 지원 外	IT동아	04.23	243	0
5186	[스타트업 리뷰] 찾아가는 자동차 검사 예약 픽업 서비스로 번거로움 줄인다	IT동아	04.23	161	0
뉴스	지상렬, 11살 연하 신지와 ‘핑크빛’ 반응에…“남자친구 없다면 좋아”	디시트렌드	05.04