어제 ‘ ’의 공개 서한( )과 관련해, 인공지능(AI) 기술 개발을 6개월간 유예할 것을 촉구하는 내용의 헤드라인에서 일론 머스크와 스티브 워즈니악의 이름이 거론되었다. 하지만 그 외에도 1.100 명—성실한 컴퓨터 과학자, 기술 애호가, 그리고 다른 분야의 전문 지식 보유자들—이 AI에 대한 경고를 보내기 위해 서명했으며, 또 다른 주요 AI 연구 그룹은 목요일에 GPT-4 기술에 대한 자체적인 ‘’ 공식 반대 성명서( )를 발표하며 이에 동참했다.
따라서 트위터·테슬라·스페이스X의 소유주인 머스크나 애플의 공동 창업자 워즈니악에 대해 어떻게 생각하든, 이 문제에 세심한 주의를 기울일 가치가 충분히 있습니다.
비영리 단체인 ‘퓨처 오브 라이프 인스티튜트(Future of Life Institute)’가 공개한 이 서한은 AI 연구소들에게 “GPT-4보다 더 강력한 AI 시스템(현재 훈련 중인 GPT-5 포함)의 훈련을 최소 6개월 동안 즉시 중단할 것”을 촉구했다.
GPT-4 ‘ ’는 이달 초 에서 첫 선을 보였습니다. 이는 OpenAI가 지난 11월에 출시해 엄청난 화제와 헤드라인, 소셜 미디어 게시물을 불러일으킨 AI 챗봇 ‘ (ChatGPT)’()에 적용된 최신 언어 기술입니다. Within weeks, more than 100 million people had signed up to use the free, automated tool, a generative AI program that allows users to create written content that’s both comprehensive, culled from countless online sources, and so conversational it looks and sounds like it was created by a human.
다른 기업들도 유사한 챗봇을 시장에 출시하기 위해 경쟁을 벌이고 있으며, 다양한 분야의 기업과 산업계는 이러한 도구를 기존 네트워크와 비즈니스 모델에 통합할 방법을 열띤 분위기 속에서 모색하고 있을 뿐만 아니라, 사이버 보안 분야에서 AI를 활용하는 방안까지 탐구하고 있습니다..
“최근 몇 달간 AI 연구소들은 그 누구도—심지어 개발자조차도—이해하거나 예측하거나 확실하게 통제할 수 없는, 그 어느 때보다 강력한 디지털 지능을 개발하고 도입하기 위해 통제 불능의 경쟁을 벌여왔다.”생명의 미래 연구소
조지타운 대학교 보안 및 신기술 센터(CSET)의 3년 차 AI 연구원인 크리스탈 잭슨은 “우리가 가장 피하고 싶은 것은 기술에 지나치게 의존하거나 과대광고에 휩쓸려 [현실]을 잊어버리는 것”이라고 말했다. 잭슨은 어제 사이버 보안 소프트웨어 업체 타늄(Tanium)이 제작하고 올봄에 출시될 예정인 새로운 팟캐스트 ‘Let’s Converge’와의 인터뷰에서, 이러한 챗봇들이 온라인에서 발견된 정보를 바탕으로 학습된다고 언급했다.
[팟캐스트 듣기: ChatGPT에 푹 빠지셨나요? [여기 열기와 희망이 있습니다]
“인터넷에 올라온 정보 중에는 유용한 것도 있다”고 그녀는 말한다. “그중 일부는 정말 심각하기 때문에 우리는 비판적 사고를 더욱 중요하게 여겨야 합니다.”
GPT-4가 정확히 무엇이며, 제가 우려해야 할까요?
최근 등장한 이후, ChatGPT와 같은 챗봇은 다양한 방식으로 테스트되어 왔다. 지금까지 이들은 ‘ ’ 대학원 수준의 시험을 통과하고, 웹사이트용 코드를 작성할 수 있을 뿐만 아니라, 심지어 데이팅 앱의 프로필을 바탕으로 ‘ ’의 완벽한 유혹 대사 를 만들어내기도 합니다. 또한 이 기술은 사이버 공격을 증가시킬 수도 있습니다. 거의 누구나 쉽게 악성코드( ), 피싱( ) 이메일 및 기타 위험한 콘텐츠를 제작할 수 있게 됨에 따라, 이 새로운 기술은 기업들이 랜섬웨어( ) 공격, 내부자 위협() 및 사이버전()에 노출될 위험을 더욱 높일 것입니다.
”인터넷에 올라온 정보 중에는 유용한 것도 있습니다. 그중 일부는 정말 심각하기 때문에 우리는 비판적 사고를 더욱 중요하게 여겨야 합니다.”조지타운 대학교 안보 및 신기술 센터의 3년차 AI 연구원 크리스탈 잭슨
불과 몇 달 전, GPT-3,5 은 모의 로스쿨 변호사 자격 시험에 합격했으나, 성적은 학급 하위 10%에 그쳤다. 오픈AI에 따르면, GPT-4 역시 이 시험에 합격했으며, 상위 10%에 해당하는 점수를 기록했다고 한다.
이 봇들은 똑똑해요. 그리고 점점 더 똑똑해지고 있어요. 이 공개 서한의 서명자들은 우리가 앞으로 닥칠 일에 대비가 되어 있지 않다고 경고합니다.
[관련 기사: 맞습니다. ChatGPT는 해킹을 가속화할 것이지만, 동시에 해킹을 막는 데도 도움이 될 것입니다]
“최근 몇 달간 AI 연구소들은 그 누구도—심지어 개발자들조차도—이해하거나 예측하거나 확실하게 통제할 수 없는, 점점 더 강력한 디지털 지능을 개발하고 도입하기 위해 통제 불능의 경쟁에 몰두해 왔다”고 이 서한은 경고한다.
그래서 그들은 우리가 잠시 멈춰야 한다고 말합니다. 이 점은 우리 모두가 잠시 멈춰 생각하게 해야 합니다.
잠시 멈추는 것이 현실적인가?
더 강력한 AI 기술을 개발하기 위한 경쟁이 전례 없는 속도로 가속화되고 있다. 많은 사람들이 과학 기술의 발전을 막을 방법은 없다고 생각할지 모르지만, 과학적 진보를 늦추거나 규제할 수 없다는 생각은 현실과 정면으로 배치된다.
“이는 AI 개발 전반을 중단한다는 의미가 아니라, 예측 불가능한 블랙박스 모델이 점점 더 거대해지고 새로운 능력이 저절로 나타나는 위험한 경쟁에서 한 발 물러서자는 것일 뿐입니다.”생명의 미래 연구소
신약의 판매 및 마케팅을 승인하는 미국 식품의약국(FDA)이나 상업용 식품 공급의 안전성을 감독하는 미국 농무부(USDA)와 같은 규제 기관들은 제조업체에 지침을 제공하기 위한 목적으로 부분적으로 설립되었다. 고속도로를 질주하기 전에 우리 모두는 기본적인 교통 규칙을 알고 이에 동의해야 합니다.
AI에 관해서는 우리 모두가 아우토반을 질주하고 있는 셈입니다. 그리고 그 유명한 고속도로조차도 때로는 속도 제한이 적용되기도 합니다.
[관련 기사: ChatGPT는 경험이 부족한 사람들에게 사이버 범죄를 더 쉽게 만들 것입니다.] 이제 그 신비로운 십대 해커의 속마음을 파헤쳐 볼 때다]
서명자들은 마이크로소프트, 구글 등 기업들이 윤리 지침과 안전 조치에 대한 공통된 이해를 바탕으로 새로운 기술을 설계하는 것이 그리 무리한 요구는 아니라고 지적한다. 이는 마치 복제를 연구하는 과학자들이, 그 기술이 아무리 수익성이 높거나 필연적으로 보일지라도 적어도 당분간은 인간 아기의 복제를 하지 않기로 합의한 것과 마찬가지다.
“AI 연구소와 독립 전문가들은 이번 중단 기간을 활용해, 외부 독립 전문가들에 의해 엄격한 감사와 감독을 받는 첨단 AI 설계 및 개발을 위한 일련의 공동 안전 프로토콜을 공동으로 개발하고 시행해야 한다”고 서한은 이어진다. “이는 전반적인 AI 개발이 중단된다는 뜻이 아니라, 예측 불가능한 블랙박스 모델이 점점 더 거대해지면서 새로운 능력이 저절로 나타나는 위험한 경쟁에서 한 발 물러선다는 의미일 뿐이다.”
이번 기회를 통해 속도 제한을 설정하고, “젖었을 때 미끄러움”이라고 경고하는 표지판을 몇 개 설치해 보시기 바랍니다.
AI의 무분별하고 광범위한 사용에 대해 경고해 온 머스크와 같은 AI 개발자들이 실제로 규칙을 따를지, 아니면 테슬라 차량을 타고 그 경고 표지판을 무시한 채 질주해 버릴지는 두고 봐야 할 일이다. 하지만 그렇다고 해서 표지판과 제한을 마련할 가치가 없다는 뜻은 아닙니다.
