추석 연휴는 잘 보내셨는지요. 오랜만에 가족과 함께 쉬는 시간이셨기를 바랍니다. 

지난 10월 3일, OpenAI에서 안전 보고서 작성을 이끌어 온 데이비드 로빈슨(David Robinson)이 회사를 떠나며 『애틀랜틱(The Atlantic)』에 「나는 OpenAI의 문화가 망가졌기 때문에 떠난다」라는 글을 실었습니다. AI 프론티어 모델을 서둘러 출시하고, 문제가 생기면 고치는 방식으로 성장해 온 회사를 향해 그는 “이제 시행착오의 시대는 끝났다”고 경고했습니다. AI는 원자력 발전소나 공항처럼 다층적인 안전장치를 갖춰 다뤄야 하며, 안전을 위한 강한 동기는 외부에서 와야 한다고 말했습니다.

 그러나 법과 제도는 이러한 기술의 발전을 따라잡지 못하고 있습니다. 미국에서는 익명 계정 네트워크인 이른바 ‘버너버스(Burnerverse)’가 대학가의 젊은 여성들을 겨냥해 동의 없는 성적 이미지와 개인정보를 퍼뜨리는 것이 확산되면서 심각한 사회적 이슈로 떠올랐습니다. 노르웨이 정부 또한 카메라와 AI가 들어간 스마트글래스가 계속 문제를 일으키자, 뒤늦게 공공장소에서의 얼굴 인식 금지 등을 포함한 규제 검토에 들어갔습니다. 

 사실 이러한 위험들이 가장 극단적으로 드러나는 곳은 전쟁터입니다. 『뉴욕타임스』는 지난 7월 우크라이나 자포리자에서 민간인 세 명의 목숨을 앗아 간 러시아 드론이 통신 안테나 없이 엔비디아의 AI 칩으로 스스로 표적을 골랐을 가능성이 크다고 보도했습니다. 숨진 이들 가운데는 열아홉 살 대학생도 있었습니다. 국제사회는 오는 11월 제네바에서 열리는 특정재래식무기금지협약(CCW) 검토회의에서 자율무기 규제 조약 협상에 나설지를 결정합니다. 70여 개국이 협상 개시를 지지하지만, 주요 군사 강국들은 여전히 소극적입니다.

 관련하여, 이번 호에는 두 편의 글을 준비했습니다.

 첫 번째 글은 이준태 님의 「AI와 무기의 결합: 자율무기체계」입니다. 자율무기체계란 무엇이고, 판단할 시간이 수 초밖에 없는 상황을 왜 인간의 통제라 부르기 어려운지 짚으며, 우리가 생각하는 것보다 가까이 와 있는 자율무기의 현실을 소개합니다. 이번 호에 이어서 총 2편에 걸쳐 연재할 예정입니다.

 두 번째 글은 김태희 님의 「배터리는 폭주하는데, 안전은 제자리」입니다. 아리셀 참사에서 출발해 ESS와 물류 로봇으로 번지는 리튬 배터리의 위험을 살피고, ‘산업 경쟁력’이라는 이유로 국회에 묶인 안전 법안들의 현실을 짚습니다.