안녕하세요, Green Geek 구독자 여러분.
어느새 11월입니다. 이번 호 첫 번째 글은 이런 문장으로 시작합니다. "기술은 중립적이라는 말도 있지만, 저는 양면적이라는 말을 더 좋아합니다." 이번 달에는 그 양면을 함께 들여다보려 합니다.
이제 사진 한 장으로 영상을, 5초 분량의 녹음으로 AI 목소리를, 문장 몇 줄로 노래 한 곡을 만들 수 있습니다. 카페에서 저작권료를 아끼려고 AI 음악을 트는 모습도 흔해졌습니다. 누구나 창작자가 될 수 있는 시대 같지만, 그 비용을 먼저 치르는 사람들이 있습니다. 지난 9월 국회 토론회에서 한국음악출판사협회 회장은 작사·작곡보다 가이드 보컬과 연주자의 일감이 먼저 줄고 있다고 말했습니다. 국제저작권관리단체연맹(CISAC)은 2028년 전 세계 음악 창작자의 수익이 해마다 24%가량 줄어들 수 있다고 추산합니다. 제도로 답하려는 곳도 있습니다. 덴마크는 지난 10월 8일, 동의 없이 사람의 얼굴과 목소리를 복제한 디지털 모사물의 유포를 금지하고 삭제 요구와 손해배상을 보장하는 저작권법 개정안을 발의했습니다. 지난 5월호에서 "당연했던 것들을 명문화하지 않으면 잃게 되는 시대"라고 썼는데, 덴마크는 그 명문화를 시작한 셈입니다.
기술의 어두운 면이 가장 극단적으로 드러나는 곳은 전쟁터입니다. 이스라엘군 8200부대원 24명의 증언을 담은 다큐멘터리 『나자(NAZA)』에 따르면, AI 시스템 '라벤더'가 표적을 고르고 '아빠는 어디 있어'가 표적이 집에 돌아오는 순간을 알려 줍니다. 장교들은 표적 하나를 20초 남짓 검토했고, 고위 표적 한 명에는 민간인 희생자 300명까지 허용됐다고 증언합니다. 기계가 고른 표적을 사람이 승인만 한다면, 그 판단의 무게와 양심은 어디로 외주화되는 것일까요.
그런데 사물과 사람을 알아보는 바로 그 기술이 다른 곳에서는 전혀 다른 일을 합니다. 오어캠 마이아이(OrCam MyEye)는 시각장애인이 가리킨 책과 지폐, 사람의 얼굴을 읽어 주고, 닷 패드(Dot Pad)는 지도와 그래프를 촉각 핀으로 손끝에 그려 줍니다. Be My AI 같은 앱은 카메라에 비친 장면을 설명하고 "유통기한이 어디에 적혀 있어?" 같은 질문에도 답합니다. 가이드 보컬을 대신하는 음성 기술은 보이스잇(Voiceitt)에서 뇌성마비나 뇌졸중으로 발음이 또렷하지 않은 사람의 말을 다른 사람이 알아들을 수 있게 옮겨 줍니다.
같은 기술이 누군가의 일자리와 목숨을 겨누는 동시에, 다른 누군가에게는 읽고 듣고 말할 길을 열어 줍니다. 차이를 만드는 것은 기술이 아니라 그 기술을 어디에 쓸지 정하는 결정이고, 지금 그 자리에 시민은 거의 없습니다.
그래서 녹색당 과학기술위원회는 12월에 연말 세미나를 엽니다. 개인정보와 보안, 저작권, 자율무기, 에너지 분야의 현황과 녹색당 AI 가이드라인을 함께 이야기하는 자리로, 시민 누구나 자유롭게 참석할 수 있습니다. 서울에서 열 예정이며, 날짜와 장소가 정해지면 다시 알려 드리겠습니다.
이번 호에는 두 편의 글을 준비했습니다.
첫 번째 글은 김태희 님의 「증강하는 기술인가, 대체하는 기술인가」입니다. 버스와 기차, 자전거에서 자유/오픈소스와 커먼즈까지, 생태적인 기술은 어떤 모습이어야 하는지 묻습니다.
두 번째 글은 이준태 님의 「AI와 무기의 결합: 자율무기체계 2」입니다. 지난 호에 이어, 자율무기체계가 구별·비례성·예방의 원칙과 마르텐스 조항 같은 국제인도법을 왜 어기기 쉬운지, 그리고 기계가 사람을 죽였을 때 그 책임을 지휘관과 프로그래머, 제작자 가운데 누구에게 물을 수 있는지 살핍니다.
11월에도 함께해 주셔서 감사합니다.
