개인정보보호와 인공지능(AI) 혁신이라는 두 가지 축을 중심으로 산업계의 고민이 깊어지고 있다. 특히 AI 발전의 핵심 동력으로 꼽히는 오픈소스 활용이 확대되면서, 이에 따른 개인정보보호 이슈를 해결하기 위한 국제적인 논의의 장이 마련되고 있는 점은 주목할 만하다. 지난 9월 15일, 개인정보보호위원회(이하 개인정보위)는 글로벌 프라이버시 총회(GPA) 개막에 앞서 ‘오픈소스 데이’를 개최하며 이러한 흐름의 중심에 섰다. 이 자리에는 구글, 메타, 마이크로소프트, 오픈AI 등 글로벌 AI 기업과 국내 AI 기업, 해외 감독기구 등 120여 명이 참석하여 오픈소스 AI 생태계의 안전한 활용 방안을 모색했다.
이번 ‘오픈소스 데이’는 개인정보위가 올해 초부터 오픈소스 기반 AI 스타트업과의 간담회를 통해 확인한 산업 현장의 높은 관심과 수요에 부응하는 자리였다. 이미 지난해와 올해 초, 개인정보위는 주요 대규모언어모델(LLM)에 대한 사전 실태점검을 통해 오픈소스 AI 환경에서의 프라이버시 리스크를 파악한 바 있다. 이러한 경험을 바탕으로 「AI 프라이버시 리스크 관리 모델(‘24.12.)」과 「생성형 AI 개인정보 처리 안내서(‘25.7.)」를 발간하며 정책적 기반을 다져왔다. 이날 행사에서 진행된 설문조사는 이러한 움직임의 필요성을 뒷받침했다. 설문 참여자 70명 중 62%가 오픈소스 도입 및 활용 경험이 있다고 밝혔으며, 77%는 미세조정 시 안전성을 고려한 경험이 있다고 응답했다. 이는 오픈소스 AI 활용이 이미 보편화되었으며, 안전성 확보가 중요한 과제임을 시사한다.
글로벌 AI 기업들은 각자의 플랫폼과 솔루션을 통해 오픈소스 AI의 안전한 활용 방안을 공유했다. 구글은 Vertex AI를 소개하며 LLM 품질 평가 도구, 프롬프트 최적화, 안전성 강화 도구 활용법을 제시했다. 에임 인텔리전스는 메타의 라마 가드(Llama Guard)를 한국 실정에 맞게 고도화한 사례를 공유하며 현장의 안전성 및 정보 보안 과제를 논했다. 마이크로소프트는 Azure AI Foundry를 기반으로 한 에이전트 AI 구축 사례를 통해 오픈소스 모델 활용 가능성을 보여주었다. 네이버 역시 HyperClovaX와 함께 AI 안전성 프레임워크 등 국내 오픈소스 생태계 확산을 위한 노력을 공유했다. 오픈AI는 새로운 오픈소스 모델 공개와 함께 경제·사회적 가치와 더불어 책임성, 글로벌 차원의 논의 필요성을 제기했으며, 셀렉트스타는 AI 신뢰성 검증 솔루션 DATUMO Eval을 소개하며 오픈소스 생태계 확산에 기여한 과정을 공유했다.
이어진 질의응답 시간에는 개인정보 필터링, 미세조정 시 고려사항, 레드팀 테스트 설계 등 오픈소스 AI 활용 과정의 안전성과 신뢰성 보장 방안에 대한 심도 깊은 논의가 이루어졌다. 또한, 한국, 영국, 이탈리아, 브라질 등 4개국 개인정보 감독기구의 패널들은 오픈소스 AI 생태계에서의 프라이버시 고려사항을 논의하며 개방성과 투명성에 기반한 신뢰할 수 있는 AI 구현의 중요성에 공감대를 형성했다. 특히, 향후 자율성을 기반으로 한 에이전틱(Agentic) AI 시대가 도래할 것이라는 전망 속에서, 안전한 AI 생태계 구축을 위한 국제적 협력의 필요성에 뜻을 모았다. 개인정보위 최장혁 부위원장은 이번 행사가 국내 첫 공개 논의의 장으로서 의미가 크다고 강조하며, 현장의 목소리를 정책에 적극 반영하겠다는 의지를 밝혔다. 김휘강 비상임위원 역시 개방적이면서 신뢰할 수 있는 AI 발전을 함께 모색하는 의미있는 출발점이 되기를 기대한다고 덧붙였다.
