전 세계적으로 인공지능(AI) 기술의 발전 속도가 가속화되면서, AI의 안전성과 보안에 대한 사회적 요구와 관심이 그 어느 때보다 높아지고 있다. 이러한 시대적 흐름 속에서, 국내외 AI 안전 전문가들이 한자리에 모여 보다 안전한 AI 세상을 만들기 위한 방안을 모색하는 중요한 자리가 마련되었다. 과학기술정보통신부(이하 과기정통부)가 주최하고 한국전자통신연구원 인공지능안전연구소가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 바로 그것이다.
이 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’이라는 주제 아래, 2025년 10월 28일부터 29일까지 이틀간 서울 호텔 나루 엠갤러리에서 개최된다. 이번 행사는 국내외 학계, 산업계, 정부 관계자 등 약 150여 명의 전문가들이 참여하여 AI 안전 거버넌스, 평가, 그리고 레드티밍(red teaming)의 현재를 진단하고 향후 국제 협력의 방향성을 논의하는 심도 깊은 장이 될 것으로 기대된다. 레드티밍은 모의 공격을 통해 AI 모델의 취약점, 편향, 악용 가능성을 사전에 파악하고 위험 요인을 선제적으로 개선하는 AI 안전 관리의 핵심 절차로, 이번 포럼에서 집중적으로 다루어질 예정이다.
포럼 첫째 날인 10월 28일에는 AI 안전 확보를 위한 각국의 인공지능안전연구소(AISI) 활동, 프론티어 AI 모델 개발 기관들의 노력, 그리고 AI 평가 전문 기관들의 평가 체계 및 방법론이 중점적으로 소개된다. 특히 일본, 싱가포르, 유럽연합(EU) 등 여러 국가의 AISI 소장 및 핵심 리더들이 참여하여 각 기관의 성과와 향후 계획을 공유하고, 실질적인 국제 협력 방안을 모색할 예정이다. 또한, 국내 LG AI연구원, 네이버 클라우드와 더불어 해외의 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 주요 AI 개발 기업 및 기관들도 참여하여 AI 모델의 안전성 확보와 평가 체계에 대한 폭넓은 논의를 이어간다. 마지막 순서로는 한국 인공지능안전연구소 실무 책임자들이 참여하는 ‘Korea AISI 대화 세션’을 통해 한국의 AI 안전 평가, 정책, 연구 추진 방향을 공유하며 글로벌 AI 안전 논의에 적극적으로 기여할 계획이다.
둘째 날인 10월 29일에는 AI 안전 평가 방법론을 주제로 한 기술 논의 중심의 워크샵이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계적인 AI 평가 기관 및 연구자들이 세션 연사로 참여하여 최신 연구 동향과 기술적 접근법을 공유할 예정이다. 특히, 이날 워크샵에서는 프론티어 AI 모델을 대상으로 한 실습 기반의 레드티밍 세션이 진행되어 실질적인 AI 안전성 검증 방안을 함께 고민한다. 더욱이, 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 양해각서(MOU) 체결식이 예정되어 있어, AI 안전 연구와 평가 분야에서의 글로벌 협력 기반을 한층 강화할 것으로 기대된다.
이번 ‘2025 인공지능 안전 서울 포럼’은 AI 시스템의 잠재적 위험을 식별, 평가, 완화하기 위한 다각적인 기술적 접근을 모색하는 동시에, 국가 간 AI 안전 거버넌스 협력 체계를 공고히 하는 국제적 논의의 장을 한국이 주도적으로 이끌어간다는 점에서 매우 큰 의미를 지닌다. 이는 AI 기술의 혜택을 극대화하면서도 그 위험을 효과적으로 관리하려는 전 세계적인 노력에 중요한 이정표를 세울 것으로 전망된다.
