전 세계적으로 인공지능(AI) 기술이 급속도로 발전하면서, AI의 안전성과 신뢰성 확보가 그 어느 때보다 중요한 과제로 부상하고 있다. 이러한 흐름 속에서 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, SFASS)’이 오는 10월 28일부터 29일까지 양일간 서울 호텔 나루 엠갤러리에서 개최된다. 이는 AI 안전 거버넌스 구축과 국제 협력 방안을 모색하는 중요한 장이 될 것으로 기대된다.
이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’이라는 주제 아래, 국내외 학계, 산업계, 정부 관계자 등 약 150여 명의 전문가들이 한자리에 모인다. 참가자들은 AI 안전 거버넌스, AI 모델의 평가 체계, 그리고 AI 시스템의 잠재적 위험을 식별하고 완화하기 위한 레드티밍(red teaming) 기법 등 AI 안전 관리의 핵심적인 현안들을 심도 깊게 논의할 예정이다. 레드티밍은 모의 공격을 통해 AI 모델의 취약점, 편향성, 그리고 악용 가능성을 사전에 검증하고 위험 요인을 선제적으로 파악하여 개선하는 필수적인 절차로, 이번 포럼에서 중요하게 다루어질 전망이다.
포럼 첫날인 28일에는 각국의 인공지능안전연구소(AISI)의 역할과 활동, 프론티어 AI 모델 개발 기관들의 안전성 확보 노력, 그리고 AI 평가 전문 기관들의 평가 체계 및 방법론 등이 소개된다. 특히 일본, 싱가포르, 유럽연합(EU) 등에서 온 핵심 리더들은 각 기관의 성과와 향후 계획을 공유하고, 실질적인 국제 협력 방안을 모색하는 시간을 가질 것이다. 또한, 국내 LG AI연구원, 네이버 클라우드를 비롯해 해외의 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 주요 AI 개발 기업 및 기관들이 참여하여 AI 모델의 안전성 강화와 효과적인 평가 체계 구축을 위한 논의를 이어갈 예정이다. 이와 함께 한국 인공지능안전연구소 실무 책임자들이 참여하는 ‘Korea AISI 대화 세션’을 통해 한국의 AI 안전 평가, 정책, 연구 추진 방향을 국제 사회와 공유하는 기회도 마련된다.
둘째 날인 29일에는 AI 안전 평가 방법론을 주제로 한 기술 중심의 워크샵이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계 유수의 AI 평가 기관 및 연구자들이 세션 연사로 참여하여 최신 연구 동향과 기술적 접근 방식을 공유한다. 이 워크샵에서는 특히 프론티어 AI 모델을 대상으로 한 실습 기반의 레드티밍 세션이 진행되어, 이론적인 논의를 넘어선 실제적인 기술 역량 강화에 초점을 맞출 것으로 보인다. 더욱이, 이날 행사에서는 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 양해각서(MOU) 체결식이 예정되어 있어, AI 안전 연구 및 평가 분야에서의 글로벌 협력 기반을 더욱 공고히 할 것으로 기대된다.
이번 ‘2025 인공지능 안전 서울 포럼’은 AI 시스템의 잠재적 위험을 식별, 평가, 완화하기 위한 기술적 해법을 모색하고, 국가 간 AI 안전 거버넌스 협력 체계를 강화하는 국제적 논의의 장을 한국이 주도적으로 열어간다는 점에서 중대한 의미를 지닌다. 이는 AI 기술의 책임감 있는 발전과 안전한 AI 생태계 구축을 향한 국제 사회의 노력을 한 단계 발전시키는 계기가 될 것이다.
