AnySelected

AI 환각 현상에 대한 우려가 커지는 가운데, 포티투마루 김동환 대표가 '2025 국제인공지능대전'에서 AI의 신뢰성을 높이는 기술의 중요성을 강조하며 해결책을 제시했습니다.

김동환 대표는 14일 서울 코엑스에서 개최된 행사에서 “정확성 없는 AI는 혁신이 아닌 리스크”라는 강도 높은 메시지를 전달하며, AI 기술 발전에 따른 윤리적, 사회적 책임에 대한 논의를 촉구했습니다. 특히, 최근 AI 모델들이 생성하는 잘못된 정보, 즉 ‘환각’ 현상을 줄이기 위한 기술 개발이 시급하다고 강조했습니다.

AI 환각, 단순한 오류를 넘어선 리스크

AI 환각은 단순히 부정확한 정보를 제공하는 것을 넘어, 잘못된 의사 결정을 내리게 하거나 사회적 혼란을 야기할 수 있는 심각한 문제입니다. 특히 의료, 금융, 법률 등 중요한 분야에서 AI가 활용될수록 이러한 리스크는 더욱 커질 수 있습니다. 김 대표는 “AI가 제공하는 정보의 정확성을 확보하지 못하면, 혁신을 기대하기 어렵다”고 지적했습니다.

포티투마루, 신뢰성 기술 개발에 집중

포티투마루는 AI의 신뢰성을 높이기 위한 다양한 기술 개발에 집중하고 있습니다. 김 대표는 “AI 모델의 학습 데이터 품질을 높이고, 모델의 예측 결과를 검증하는 기술을 통해 AI 환각 현상을 줄여나갈 계획”이라고 밝혔습니다. 또한, AI 모델의 투명성을 높여 사용자들이 AI의 판단 근거를 이해하고 신뢰할 수 있도록 하는 기술 개발에도 힘쓰고 있습니다.

AI 생태계의 지속 가능한 성장을 위한 노력

김동환 대표는 AI 기술의 발전이 사회 전체에 긍정적인 영향을 미치기 위해서는 신뢰성 확보가 필수적이라고 강조했습니다. 그는 “AI 개발자와 사용자들이 윤리적 책임감을 가지고 AI 기술을 활용해야 하며, 정부와 학계는 AI 윤리 및 안전에 대한 연구를 지원해야 한다”고 주장했습니다. 포티투마루는 앞으로도 AI 신뢰성 기술 개발을 통해 AI 생태계의 지속 가능한 성장에 기여할 계획입니다.

이번 김동환 대표의 발표는 AI 기술 발전의 그림자 속에 가려져 있던 신뢰성 문제에 대한 경각심을 일깨우고, AI 기술의 건전한 발전을 위한 논의를 촉발할 것으로 기대됩니다.