인공지능(AI) 플랫폼 전문기업 몬드리안에이아이(대표 홍대의)는 14일 한국과학기술연구원(KIST) 뇌과학연구소 한경림 박사가 총괄책임을 맡은 과학기술정보통신부 2025년도 ICT R&D 대형 신규과제 ‘안전AI’ 연구에 참여한다고 밝혔다. 이번 과제는 생성형 AI의 편향성과 환각, 불안정성 문제를 해결해 신뢰할 수 있는 AI 생태계를 구축하는 것을 목표로 한다.

과제명은 ‘뇌인지 다학제 국제거버넌스 기반 인공지능 편향성 검출·교정·설명가능 지능적 자율진화 플랫폼 개발’로, 국내외 학제 간 협력을 통해 공공·민간 분야 전반의 AI 신뢰성과 공정성을 높이는 데 초점을 맞춘다. 연구는 KIST 한경림 박사가 총괄을 맡고, 몬드리안에이아이 홍대의 대표가 제1공동연구개발기관 책임자로 참여한다. 이외에도 호주 멜버른대학교 한소연 교수, 한양대학교 이상욱 교수, KAIST 연구진이 함께 참여해 글로벌 연구 거버넌스를 구축한다.

몬드리안에이아이는 이번 과제에서 파운데이션 모델의 편향성을 줄이고, 신뢰성 있는 답변을 생성하기 위한 LLMOps(거대언어모델 운영) 및 LMMOps(거대멀티모달모델 운영) 기반의 AI Safety 플랫폼을 개발한다. 이 플랫폼은 학습부터 배포, 운영, 모니터링까지 AI 운영 전 과정을 통합 관리하며, 생성형 AI의 편향성·환각·불안정성 문제를 실시간으로 검출하고 교정·설명할 수 있는 기능을 중심으로 설계된다. 이를 통해 자율적으로 진화하며 신뢰 가능한 AI 운영 환경을 제공하는 것이 목표다.

특히 몬드리안에이아이는 기존 클라우드 운영 및 AI 인프라 구축 경험을 바탕으로 한 고도화된 LLMOps 기반 체계를 구현할 계획이다. 다양한 파운데이션 모델을 통합 수용해 자율적으로 학습하고 진화하는 ‘지능형 AI Safety 운영 생태계’를 조성함으로써, 사회와 국가가 신뢰할 수 있는 책임형 AI 기술의 토대를 마련할 전망이다.

또한 KIST 한경림 박사, 멜버른대 한소연 교수, 한양대 이상욱 교수, 몬드리안에이아이 홍대의 대표가 공동 개발 중인 ‘안전AI 페르소나 비디오봇’은 생성형 AI와 유튜브 등 영상 콘텐츠 환경에서 발생할 수 있는 위험 요소를 검증·보완하는 ‘AI 안전지키미’ 서비스로, 내년 시범서비스를 목표로 하고 있다. 해당 서비스는 사용자의 시청 환경에서 AI의 편향과 비윤리적 콘텐츠 노출을 실시간으로 감지·교정하는 기능을 탑재하게 된다.

홍대의 몬드리안에이아이 대표는 “AI 경쟁력의 핵심은 단순한 성능이 아니라 신뢰성과 공정성 확보에 있다”며 “자율진화형 AI Safety 플랫폼을 통해 누구나 안심하고 활용할 수 있는 차세대 AI 운영 환경을 만들어 가겠다”고 말했다.

이번 사업은 한국 AI 기술의 책임성과 윤리성을 높이는 동시에, 글로벌 협력의 교두보 역할도 할 것으로 기대된다. 몬드리안에이아이는 현재 국제기구 및 해외 정부 기관과 공동 연구를 추진 중이며, 최근 우즈베키스탄의 대형 통신사 및 국가 AI 연구소와 양해각서(MOU)를 체결하는 등 글로벌 네트워크 확장을 가속화하고 있다.