이번 글의 주제는 어쩌면 가장 위험하거나 급진적인 주제일 수 있겠다. 바로 살상용 로봇, 킬러로봇에 대해서다. 킬러로봇, 우리에겐 어쩌면 터미네이터로 더 널리 알려진 군사용 로봇의 다른 이름이다. 2017년 7월, 유엔(UN)의 주최로 스위스 제네바에서 열리는 회의에서 킬러로봇이 주제로 논의된 바 있다. 또 다른 예로 2018년 국제인공지능 공동회의에는 알파고의 개발자, 테슬라 CEO등이 모여 살인 AI 개발에 협력하지 않겠다는 선언을 한 바 있다. 그러나 물론 지금 이를 만들거나 판매하려는 시도는 전세계적으로 거의 없거나 매우 드문 추세이다. 그럼에도 킬러 로봇이란 주제가 세계적인 권위자, 산업 리더들 화두가 된 결정적 이유는 무엇일까?

터미네이터
언론과 일부 전문가들의 주장은 ”인간성이 말살된 도구”라고 일축하며 킬러로봇 개발을 맹비난했다. 킬러로봇 작동에는 살인에 대한 어떠한 인간적 번민과 고뇌도, 사용자의 죄의식도 존재하지 않아 “너무나” 효율적으로 학살이 일어날 것이라는 의견이다 실제로 비슷한 예를 들어보면, 총은 냉병기에 비해 피해자의 “인간성”에 덜 노출되며 큰 힘이 들지 않기에 효율적인 살인이 가능한 도구이다. 이 때문에 미국의 경우 한 해 3만8천여명의 사상자가 나오며, 같은 해 교통사고 사망자수 약3만5천여명에 비해 약 10%가량 많은 수치이다. 인간성이 말살된 도구에 의한 효율적 살인이 두렵다는 그들의 주장도 꽤나 설득력이 있다. 사실이 이렇다면 킬러로봇에 대한 논의가 아니라 전면 금지가 이루어져야 마땅할 것이다.

하지만 문명의 발생 이래로 도구의 발전과 그 부작용은 수없이 논의된 내용이다. 이 논의는 매번 파급력 있는 기술마다 이 기술의 인간성이나 도덕성을 되물어왔다. 다이너마이트는 본래 광업과 토지개발을 위해 쓰이던 발명품이었으며, 아인슈타인의 상대성 이론에서 아이디어를 얻은 핵폭탄이나, 베트남전에 쓰인 고엽제도 본래 소량 사용하면 식물의 성장을 촉진하는 작용을 하는 비료였다. 놀랍게도 지금까지 알려진 킬러로봇의 작동 원리도 이와 비슷한 맥락을 공유한다. 킬러 로봇이 목표물(Target)을 찾는 핵심기술은 레이저빔과 카메라를 이용한 Lidar라는 기술이다. Lidar 기술 역시 자율주행 자동차의 사물 인식을 위해 개발되고 보급된 기술이다.

본지로 돌아가서 기술의 남용과 도구가 비극을 불러올 수 있다는 의견은 전적으로 동의한다. 하지만 이 문제가 절대로 기술 그 자체나 킬러로봇에 쟁점이 될 순 없다. 킬러로봇의 핵심을 이루는 동력, 구조, 사물인식등 모두 킬러로봇을 위해서 자체 개발된 것은 단 한 개도 없을 것이라 단언할 수 있다. 기술을 이용하여 “인간성이 결여된” 사물을 만들어내는 “인간”들이 문제가 됨을 알아야 한다. 도구는 감정이 없다 여기에 의도를 담아내는 사람만이 있을 뿐이다. 우리는 이제 기계가 아닌 스스로에게 되물어 봐야 한다. 우리는 인간성을 기계에 맡기고 있지 않은것인지.

캄브리아 플랫폼을 담고 있는 블록체인, 이 블록체인 기술도 2008 금융위기가 금융기관의 도덕적 해이에서 나왔다는데서 착안하여 누구도 믿지 않아도 되는 탈중앙된 금전출납부를 만드는 목적이었다.

2017년, 암호화폐 광풍의 시기가 지나가면서 일부에서는 기술을 빙자한 투기와 돈놀이라며 블록체인을 비하하였다. 하지만 현재 블록체인은 각종 카드사의 백데이터, 생체인식 모듈, 글로벌 규모의 물류 시스템에서 빠져선 안되는 핵심 시스템으로 자리 잡아가고 있다. 여기에 더해 캄브리아는 블록체인 플랫폼의 윤리적 문제의 해결과 그 권한을 사용자들과 함께 풀어가고자 블록체인과 독특한 매커니즘을 이용한 “커뮤니티 법정” 기능을 사용한다. 기술과 윤리의 문제점을 해결하려 함은 물론 물론 복잡한 관계를 지닌 개인과 개인의 집합을 만들어 규칙아래에서 협력하게 한 것이다.

이들의 방향이 결코 정답이라 볼 근거는 아직 부족하다. 하지만 기술의 중심에 사람을 세우고, 협력하여 만들어갈 캄브리아의 생태계가 기술과 연구 윤리의 모범이자 중심으로 거론될 날은 멀지 않았을 것이다.

– 캄브리아 팀 일동

웹 사이트 : https://kambria.io/
백서 (ENG) : https://docsend.com/view/a7mz9r6
텔레그램 (ENG) : https://t.me/kambriaofficial
텔레그램 (Offcial): https://t.me/kambriaofficial
텔레그램 (KR) : https : / /t.me/KambriaKorea
텔레그램 (VIE) : https://t.me/KambriaVietnam
텔레그램 공지 채널 : https://t.me/kambria
트위터 : https://twitter.com/KambriaNetwork
페이스북 : https : // facebook.com/KambriaNetwork
레딧 : https://www.reddit.com/r/KambriaOfficial/
이메일 : info@kambria.io

Author

Kambria Korea

Write A Comment