전 세계적으로 인공지능(AI) 기술의 급속한 발전과 함께 AI 안전에 대한 중요성이 갈수록 부각되고 있다. 이러한 흐름 속에서 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, SFASS)’이 10월 28일부터 29일까지 서울 호텔 나루 엠갤러리에서 개최된다. 이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로, AI 안전 거버넌스, 평가, 레드티밍(red teaming) 등 AI 안전 분야의 현주소를 점검하고 국제 협력 방안을 모색하는 중요한 자리가 될 전망이다.
과학기술정보통신부(이하 과기정통부)가 주최하고 한국전자통신연구원 인공지능안전연구소가 주관하는 이번 포럼에는 국내외 학계, 산업계, 정부 관계자 등 150여 명의 전문가들이 참여한다. 포럼 첫날인 28일에는 각국 인공지능안전연구소(AISI)의 활동 현황과 성과, 프론티어 AI 모델 개발 기관의 안전성 확보 노력, AI 평가 전문 기관의 평가 체계 및 방법론 등이 소개될 예정이다. 특히 일본, 싱가포르, 유럽연합(EU) 등 주요 국가의 AISI 소장들이 참여하여 각 기관의 계획과 실질적인 국제 협력 방안을 논의한다. 또한, 국내 LG AI연구원, 네이버 클라우드를 비롯해 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 국내외 AI 개발 기업 및 기관들이 AI 모델의 안전성 확보와 평가 체계에 대한 심도 있는 논의를 이어갈 예정이다. 더불어 한국 인공지능안전연구소 실무책임자들이 참여하는 ‘Korea AISI 대화 세션’에서는 한국의 AI 안전 평가, 정책, 연구 추진 방향이 공유된다.
포럼 둘째 날인 29일에는 AI 안전 평가 방법론을 중심으로 한 기술 논의 중심의 워크샵이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계적인 AI 평가 기관 및 연구자들이 세션 연사로 참여하여 최신 기술 동향과 발전 방향을 공유한다. 이날 워크샵의 하이라이트 중 하나는 프론티어 AI 모델을 대상으로 한 실습 기반의 레드티밍 세션이다. 이는 AI 시스템의 취약점, 편향, 악용 가능성을 모의 공격을 통해 검증하고 위험 요인을 선제적으로 식별 및 개선하는 AI 안전 관리의 핵심 절차를 실제 경험할 수 있는 기회를 제공한다. 특히, 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 양해각서(MOU) 체결식이 예정되어 있어 AI 안전 연구와 평가 분야에서의 글로벌 협력 기반을 더욱 강화할 것으로 기대된다.
이번 ‘2025 인공지능 안전 서울 포럼’은 AI 시스템의 위험을 식별, 평가, 완화하기 위한 기술적 접근 방안을 모색하고, 국가 간 AI 안전 거버넌스 협력 체계를 공고히 하는 국제적 논의의 장을 한국이 주도적으로 마련한다는 점에서 중요한 의미를 갖는다. AI 안전이라는 전 지구적 과제에 대한 한국의 리더십을 보여주고, 보다 안전하고 신뢰할 수 있는 AI 세상을 향한 발걸음을 가속화하는 계기가 될 것으로 보인다.