로이터 현지 시간 수요일 보도에 따르면 백악관 관계자는 구글, 마이크로소프트, 오픈AI, 인공지능(AI) 연구 기업인 앤트로픽의 CEO들이 19일 카말라 해리스 미국 부통령과 정부 고위 관리들을 만날 예정이라고 확인했다. AI의 주요 문제를 논의하는 현지 시간.

백악관 관계자는 해리스와 정부 관계자들이 회의에서 AI 분야에 관여하는 이들 기업 임원들에게 인공지능 도구의 잠재적 피해를 줄여야 할 책임이 있다고 말할 것이라고 밝혔다. 초청장에서 바이든 미국 대통령도 기술 기업들이 제품을 대중에게 제공하기 전에 제품의 안전성을 보장해야 한다고 희망했다.

바이든은 지난달 인공지능이 진짜 위협이 될지는 두고 봐야 한다고 말했지만 인공지능 관련 제품 감독의 필요성을 강조했다. Biden은 소셜 미디어가 적절한 보호 조치 없이 강력한 AI 기술이 초래할 수 있는 피해를 설명했다고 말했습니다.

실제로 지난해 챗GPT가 등장한 이후 사회적으로 큰 논란을 불러일으켰다. AI의 능력은 사람들의 기대를 훨씬 뛰어넘었기 때문에 빠르게 발전하는 AI 기술에 대한 비평가들의 우려에는 사생활 침해, 편견, 사기, 루머 및 허위 정보 유포 등이 포함됩니다. 업계 기술 리더들도 최근 AI로 인한 위험에 대한 경계를 촉구했습니다.

3월 29일 수천 명의 과학자와 기술자가 공동으로 공개 서한을 발표하여 관련 위험과 문제가 해결될 때까지 모든 인공 지능 연구소에 GPT-4보다 강력한 시스템의 교육을 즉시 중단할 것을 촉구했습니다. 이 호소문은 많은 관심과 호응을 받았습니다. 단 이틀 만에 2,300명 이상이 서명했습니다.

최근 구글 퇴사를 선언한 'AI의 대부' 제프리 힌튼은 인터넷이 가짜 사진과 동영상, 글로 가득 차게 되고 일반인들은 "더 이상 진실과 거짓을 구분할 수 없을 것"이라고 우려했다. . 또한 Hinton은 기술의 "미래 버전"이 인간에게 위협이 될 것이라고 우려합니다. "그들은 종종 분석된 많은 양의 데이터에서 예기치 않은 행동을 학습하고" 나쁜 사람들을 방지하는 방법을 상상할 수 없기 때문입니다. AI를 사용하여 나쁜 일을 합니다.

힌튼은 인공지능이 수많은 일자리를 사라지게 할 뿐만 아니라 무엇이 진짜인지 알 수 없게 만들 것이라고 말했다. 인공지능이 인간보다 훨씬 똑똑해지면 인간을 조종할 것이다. 인공 지능이 프로그래밍 방법을 알게 되면 인간이 설정한 제한을 피하려고 합니다.

사실 위협은 이미 명백합니다. 예를 들어 IBM은 7000개 이상의 작업을 인공 지능으로 대체할 것입니다. Krishna, IBM CEO는 5월 1일 회사의 인사와 같은 내부 기능 부서의 채용이 중단되거나 연기될 것이며 약 26,000 고객을 직접적으로 지향하지 않는 위치가 있다고 말했습니다. IBM. 향후 5년 안에 일자리의 30%가 인공 지능과 자동화로 대체될 것입니다. 이는 약 7,800명의 사람들이 일자리를 잃게 된다는 것을 의미합니다.

현재 전 세계 정부는 기술 발전 속도를 따라잡기 위해 적극적으로 규제 조치를 모색하고 있습니다. 미국 상무부는 지난달 인공지능(AI) 책임 규명 방안에 대해 모든 부문의 의견을 수렴해 공식적으로 공개 의견을 수렴했다. 미국 외에도 유럽연합(EU) 의원들도 인공지능 기술 감독에 박차를 가하고 있다.

지난 주 유럽 연합은 ChatGPT와 같은 인공 지능 도구 개발자가 AI 시스템을 구축할 때 사용한 저작권 자료를 공개하도록 요구하는 새로운 법안 초안을 제안했습니다. 유럽연합 집행위원회(European Commission)의 집행부사장 겸 경쟁위원인 베스타거(Vestager)는 규제 방안으로 AI가 생성한 기사와 이미지에 'AI로 제작'과 같은 라벨을 표시하는 방안을 제시했으며, 생성 AI는 설명할 의무가 있습니다.

EU 입법자들은 EU 인공지능 법안을 어떻게 도입할지에 대해 여전히 논의 중이며, AIGC(Generative AI)는 가장 우려되는 내용 중 하나가 되었습니다. 유럽 ​​위원회는 5월 11일 관련 협정에 대해 투표할 예정입니다. 통과되면 EU 회원국이 유럽위원회 및 유럽 의회와 협상 내용을 논의하는 삼자 협상의 다음 단계에 들어갑니다.

중앙재경대학 증권선물연구소 ​​연구원 Yang Haiping은 생성 인공 지능이 규제되지 않으면 데이터 보안 및 네트워크 보안의 위험이 있을 수 있으며 생산 주문에 영향을 미칠 수 있다고 말했습니다. , 인공 지능의 오용 및 남용으로 인한 생활 질서 및 사회 질서. 더 중요한 것은 생성형 인공지능은 알고리즘, 모델, 규칙에 따라 텍스트, 그림, 소리, 동영상, 코드 등의 콘텐츠를 생성하기 때문에 제공자의 책임이 강화되지 않고 엄격한 감독이 이루어지지 않으면 기술 혁신이 과학 기술 윤리의 최종선은 과학 기술 선량의 방향에서 벗어나 헤아릴 수 없고 돌이킬 수 없는 손실을 초래합니다.

Yang Haiping은 외국 과학자들이 더 강력한 AI 시스템의 개발 중단을 촉구했으며 중국은 생성 인공 지능의 서비스 관리에 대한 새로운 규정을 도입했으며 모두 인공 지능이 중요한 돌파구를 마련한 중요한 순간과 합리적인 예방 조치를 취했다고 말했습니다. 인공 지능의 가능한 위험에 대비했습니다. 인공 지능을 감독하려면 국제 사회가 모든 국가가 준수해야 할 통일되고 명확한 안전 기준을 평가하고 도출해야 합니다.