OpenAI(오픈에이아이)가 화제인 이유, 구글 인공지능(AI)의 위험성?

 

 

인공지능(AI)은 우리 삶을 변화시키는 혁신적인 기술로, 무한한 잠재력을 지니고 있습니다. 하지만 최근 오픈에이아이(OpenAI)와 구글 딥마인드의 전·현직 직원들이 공동으로 발표한 성명에서는 이 기술의 어두운 면에 대한 우려를 표명했습니다. 이들은 인공지능 기술이 가져올 수 있는 심각한 위험에 대해 경고하며, 이에 대한 적절한 감독과 보호조치의 필요성을 강조했습니다. 

 

 

 

 

위험을 경고하는 공동 성명?

 

글로벌 생성형 인공지능 기업인 오픈AI, 구글 딥마인드, 앤스로픽의 전·현직 직원 13명이 AI의 위험성을 경고하는 공동 성명을 발표했습니다. 이들은 빅테크 기업들의 범용 인공지능(AGI) 개발 경쟁 속에서 보복 없는 내부자 고발을 요구했습니다.

 

범용인공지능(AGI)개발 경쟁이 진행되면서 필요시에는 어떤 보복도 제기하지 않는 '내부자 고발'을 허용해 달라는 내용이었습니다. 서명자로는 오픈 AI 전현직 직원11명과 구글 딥마인드 및 앤스로픽의 전현직 2명이 이름을 올렸습니다.

 

 

문제가 되는 내용은?

 

공동 성명에 따르면, 이들은 인류에게 이례적인 혜택을 줄 수 있는 AI 기술의 잠재력을 인정하면서도, 이에 따른 위험도 경계해야 한다고 밝혔습니다. 특히, 기존 불평등의 고착화부터 자율 AI 시스템의 통제 상실에 이르는 다양한 위험을 지적했습니다.

또한, 이들은 AI 기업들의 투명성 저하 문제를 지적하면서, 비공개 정보의 공유가 부족하다고 지적했습니다. 이에 따라, 기업에 재직한 직원들이 회사에 책임을 물을 수 있는 환경을 조성해야 한다고 주장했습니다. 이들은 회사가 비판을 금지하는 계약을 체결하지 않고, 비판에 대한 보복을 하지 말아야 한다고 요구했습니다. 또한, AI 회사들은 공개 비판을 지원하고, 위험 관련 정보를 공개적으로 공유하는 직원들에 대한 보복을 막아야 한다고 촉구했습니다.

이러한 공동 성명은 오픈AI가 AI 안전 연구팀인 '수퍼얼라인먼트' 팀을 해체한 뒤 약 3주 만에 나왔습니다. 이전에도 오픈AI는 안전팀을 해체하고 직원들에 대한 기밀 유지 계약을 강요했던 사례가 있었습니다. 이에 대한 경고를 통해, 내부에서 적절한 위험 경고를 할 수 있는 환경을 조성해야 한다는 메시지가 담겼습니다.

 

 

 

인공지능 기술의 잠재적 위험성

 

 

 

이들은 인공지능 기술이 인류에게 전례 없는 혜택을 제공할 수 있지만, 동시에 기존의 불평등을 심화시키고, 조작과 잘못된 정보의 확산, 심지어는 인간의 멸종을 초래할 수 있는 통제 상실과 같은 심각한 위험을 야기할 수 있다고 주장했습니다. 이러한 위험들은 전 세계 정부와 다른 인공지능 전문가들, 그리고 인공지능 회사들도 인정하는 사실입니다.

 

 

인공지능 기업의 책임과 감독 문제

 

 

그러나 문제는 인공지능 기업들이 이윤 추구 목표로 인해 제대로 된 감독을 하지 못하고 있으며, 기업 내부의 규제 시스템만으로는 이러한 문제를 해결할 수 없다는 것입니다. 또한, 생성형 인공지능 학습 데이터에 대한 정보를 공개하지 않아 개인정보와 저작권 침해 등에 관한 법적·윤리적 문제가 지속적으로 제기되고 있습니다.

 

 

필요한 조치들

 

 

이에 대해, 오픈에이아이와 구글 전·현직 직원들은 몇 가지 중요한 조치를 촉구했습니다. 우선, 인공지능 위험과 관련하여 회사에 대한 비방 또는 비판을 금지하는 계약을 체결하지 않도록 하고, 회사 외부의 독립 기관에 인공지능의 위험과 관련한 우려 사항을 제기할 수 있는 익명 절차를 마련해야 합니다. 또한, 위험 관련 정보를 공개적으로 공유하는 전·현직 직원에 대한 보복을 금지하는 등의 보호 조치가 필요합니다.

 

 

결론

 

 

인공지능 기술의 발전은 인류에게 많은 혜택을 가져다주지만, 그와 동시에 심각한 위험성도 내포하고 있습니다. 따라서, 이러한 위험성에 대한 적절한 인식과 함께, 기업, 정부, 그리고 사회 전체가 함께 이 문제에 대응하기 위한 체계적인 노력이 필요합니다. 오픈에이아이와 구글의 전·현직 직원들이 제기한 이러한 우려는 우리 모두가 진지하게 고민해보아야 할 중요한 메시지입니다.