<table border="1" cellpadding="1" cellspacing="1" style="width:750px"> <tbody> <tr> <td> <p style="text-align: center;"><span style="font-size:24px"><strong>부총리, 산&middot;학&middot;연 전문가와 인공 지능 안전 정책 방향 논의</strong></span></p> <p style="text-align: center;">- 대한민국 인공 지능 안전을 책임지는 인공지능 안전연구소를 방문하여, 인공 지능 안전 기술 시연 참관 및 「(가칭)국가 인공 지능 안전 생태계 조성 종합계획」 마련을 위한 간담회 개최</p> </td> </tr> </tbody> </table> <p>&nbsp;</p> <p>배경훈 부총리 겸 과학기술정보통신부장관(이하&lsquo;부총리&rsquo;)은 10월 23일(목) 인공지능 안전연구소(소장 김명주, 이하&lsquo;안전연구소&rsquo;)를 방문하여 연구 평가 현장을 살핀 후, 산&middot;학&middot;연 전문가들과 간담회를 개최하였다.</p> <p>&nbsp;</p> <p>최근 인공 지능을 활용하여 사람의 음성, 얼굴들을 합성 또는 조작하는 인공 지능 조작영상(딥페이크)을 악용한 피해가 발생하고 있고, 다가올 범용인공지능(AGI), 인공 지능 대리인(AI 에이전트) 시대에는 우리가 예상하지 못한 새로운 유형의 피해가 발생할 우려가 있어, 현재의 인공 지능 안전 확보 기술 현황 등을 공유하고, 정부의 정책 방향을 논의하는 것이 이번 현장 방문의 목적이다.</p> <p>&nbsp;</p> <p>세계적으로 인공 지능 안전연구소는 2023년 말부터 영국, 미국, 일본 등 주요국들이 다양한 인공 지능 위험에 대응하기 위해 설립*하였으며, 우리나라도 국제적 대응과 국가 차원의 인공 지능 안전성 확보를 위해, 2024년 안전연구소를 설립하고, 안전확보 기술 선도와 모형 평가, 인공 지능 안전 정책 전반에 대한 논의와 대응, 국제 협업 등을 수행하고 있다.</p> <p>&nbsp;</p> <p style="margin-left:36.4pt">* 영국(2023년 11월), 미국(2024년 2월), 일본(2024년 2월), 싱가포르(2024년 5월) 등</p> <p>&nbsp;</p> <p>배경훈 부총리는 안전연구소의 인공 지능 연구 평가 현장을 방문하여, ▲인공 지능 조작 영상(딥페이크) 탐지 기술, ▲미래 인공 지능위험 연구, ▲인공 지능 안전 평가 수행, ▲인공 지능 안전 정책 및 국제 인공 지능 협력 등을 수행하는 직원들을 격려하고 인공 지능 안전과 관련된 의견을 청취하는 한편, 최근 불거지고 있는 인공 지능 조작 영상(딥페이크)의 악용 문제 해결과 인공 지능 대리인(AI 에이전트)의 안전성&middot;신뢰성 확보를 위해 산업계, 학계, 연구계 등 관련 전문가 15명과 함께, 인공 지능 조작 영상(딥페이크) 탐지 기술과 인공 지능 대리인(AI 에이전트) 안전성 평가에 대한 시연을 진행하였다.</p> <p>&nbsp;</p> <p>이어서, 인공 지능의 지속 가능한 혁신과 안전과 신뢰의 균형을 갖추면서 건전한 인공 지능 환경을 구축할 수 있도록, 인공 지능 위험 대응을 위한 기술 개발 현황과 인공 지능 안전 생태계 조성 방안이라는 주제로 간담회를 진행하였다.</p> <p>&nbsp;</p> <p>첫 번째 분과에서는 인공 지능 조작영상(딥페이크) 방지 기술와 인공 지능 대리인(AI 에이전트)을 안심하고 사용할 수 있는 기술 개발 현황 및 대응 방향 등에 대해 논의하였고, 두 번째 분과에서는 국제 인공 지능 위험 대응 동향에 따른 우리나라의 체계적인 인공 지능 위험 대응 및 안전 확보를 위해 「(가칭)국가 인공 지능(AI) 안전 생태계 조성 종합계획」 마련을 위한 추진 방향에 대해 논의하는 시간을 가졌다. 간담회 참석자들은 인공 지능 안전 생태계를 조성하여 안전하고 신뢰할 수 있는 인공 지능 개발‧활용하는 환경을 만들어야 한다는 데 공감하였다.</p> <p>&nbsp;</p> <p>배경훈 부총리는 &ldquo;국민이 안심하고 사용할 수 있는 인공 지능은 인공 지능 공존 사회의 첫 걸음.&rdquo;이라며, &ldquo;인공 지능 안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 올해 내에「(가칭)국가 인공 지능(AI) 안전 생태계 조성 종합계획」을 마련할 계획이다.&rdquo;라고 밝혔다.</p> <div id="hwpEditorBoardContent">&nbsp;</div> <div>&nbsp;</div> <div><a href="https://www.msit.go.kr/bbs/view.do?sCode=user&amp;mId=307&amp;mPid=208&amp;pageIndex=&amp;bbsSeqNo=94&amp;nttSeqNo=3186415&amp;searchOpt=ALL&amp;searchTxt=" target="_blank">※ 출처 : 과학기술정보통신부 (홈페이지 바로가기/원문보기)</a><br /> ※ 원문 및 첨부파일 등은 과학기술정보통신부 홈페이지에서 확인바랍니다.&nbsp;</div>