챗GPT와 같은 생성형 AI 관련 규제 조항 추가
AI 위험도에 따라 4단계 최소(minimal), 제한적(limited), 고위험(high), 허용 불가(unacceptable)로 분류
세계 최초 AI 규제 법안..이르면 연내 통과
[사진출처=unsplash]
[밸류체인타임스 = 이수형 인재기자] EU(유럽연합) 집행위원회는 지난 4월 27일 생성형 AI와 관련된 조항을 추가한 AI 규제 법안 수정안에 합의했다. 수정된 EU의 AI 규제 법안에 따르면, 챗GPT와 같은 생성형 AI 개발자는 저작권이 있는 자료를 AI 데이터 학습에 사용할 경우 관련 자료의 저작권을 모두 공개해야 한다. 이는 AI가 학습한 데이터의 원 저작권자의 권익을 보호하기 위한 조치다.
EU 집행위원회는 앞서 2021년 4월 AI 규제 법안 초안을 제안했다. 2022년 11월 말 공개된 챗GPT가 두 달만에 월간 활성사용자수 1억 명을 돌파하자 이를 규제하는 데 한계가 있다고 보고 이후 해당 초안에 생성형 AI에 관한 규제 조항을 추가한 것으로 보인다.
EU 집행위원회 부위원장 마르그레테 베스타게르는 "생성형 AI 개발자는 AI가 학습한 데이터의 저작권을 공개해 일반 사용자가 볼 수 있도록 해야 하며, 일반 사용자가 생성형 AI를 통해 만든 글이나 이미지임을 알 수 있도록 'AI로 생성함'이라는 표시가 필요하다"라고 말했다.
생성형 AI는 단순히 기존 데이터를 분석하는 수준에서 그치지 않고 새로운 콘텐츠를 생성할 수 있는 인공지능이다. 생성형 AI는 인터넷에 공개된 방대한 양의 데이터를 기반으로 사용자가 입력하는 명령어에 따라 텍스트, 이미지, 영상, 음악 등 결과물을 만들어낸다.
이 과정에서 생성형 AI가 저작권이 있는 자료를 무단으로 사용함으로써 저작권을 침해한다는 지적이 계속 제기돼왔다. 지난 1월 이미지를 제공하는 기업인 게티이미지(gettyimages)는 자사가 소유한 이미지의 라이선스를 AI 학습에 사용했다는 이유로 스태빌리티 AI(Stability AI)를 저작권 침해로 고소하기도 했다. 스태빌리티 AI는 사용자가 입력한 명령어를 기반으로 이미지를 생성하는 AI 서비스 기업이다.
[사진출처=unsplash]
EU 집행위원회의 AI 규제 법안 초안이 법제화되면, 생성형 AI가 데이터를 학습하는 과정에서 사용했던 자료의 저작권이 모두 공개된다. 이에 따라 저작권 소유자들이 자신의 저작물을 사용한 생성형 AI 개발 기업에 저작권 사용 비용을 청구하거나 수익 분배를 요구할 수 있는 법적 근거가 마련된다.
EU 집행위원회는 AI 규제 법안 초안에 AI의 위험도를 최소(minimal), 제한적(limited), 고위험(high), 허용 불가(unacceptable)인 4단계로 나눠 차등적으로 의무를 부여한다는 내용을 담았다. AI의 위험도는 거짓 정보를 제공하는가, 생체 정보를 감시하는가, 차별적 언어를 포함하는가 등 몇 가지 평가 항목에 따라 분류된다.
AI를 개발하고 활용하는 기업은 AI 위험도에 따라 위험을 평가하고 이를 완화할 의무가 있다. AI 서비스를 출시하기 전에 위험 발생 가능성 여부를 검사할 뿐만 아니라 사후에도 모니터링할 의무가 있다. AI를 개발하고 서비스를 운영하는 과정을 기록하여 문서화하거나 AI 학습 데이터의 편향과 오류를 방지할 의무도 요구된다.
다만 ‘허용 불가’에 해당하는 AI 서비스일지라도 서비스 자체를 금지하는 대신 사용자에게 위험도를 직접적으로 공개한다. AI 업계가 자발적으로 위험도를 낮추기 위한 노력을 이끌어내는 것이 이번 초안의 핵심이다.
EU 집행위원회가 제안한 AI 규제 법안 초안은 EU 입법 절차에 따라 유럽의회와 EU 이사회의 논의를 거치게 된다. 수정된 AI 규제 법안은 이달 11일 소관위원회, 6월 중순 본회의 표결을 거쳐 최종안이 확정될 예정이다.
법안 세부 내용은 EU 회원국과 조율한 뒤 법률로 채택되며, 이르면 올해 안에 세계 최초로 AI에 대한 법적 규제가 시작될 전망이다. 유럽의 법과 규정은 국제적 표준이 되는 경우가 많아 이번 AI 규제 법안이 법제화되는 데 이목이 집중된다.
저작권자 © 밸류체인타임스 무단전재 및 재배포 금지
[밸류체인타임스 = 이수형 인재기자]
챗GPT와 같은 생성형 AI 관련 규제 조항 추가
AI 위험도에 따라 4단계 최소(minimal), 제한적(limited), 고위험(high), 허용 불가(unacceptable)로 분류
세계 최초 AI 규제 법안..이르면 연내 통과
[밸류체인타임스 = 이수형 인재기자] EU(유럽연합) 집행위원회는 지난 4월 27일 생성형 AI와 관련된 조항을 추가한 AI 규제 법안 수정안에 합의했다. 수정된 EU의 AI 규제 법안에 따르면, 챗GPT와 같은 생성형 AI 개발자는 저작권이 있는 자료를 AI 데이터 학습에 사용할 경우 관련 자료의 저작권을 모두 공개해야 한다. 이는 AI가 학습한 데이터의 원 저작권자의 권익을 보호하기 위한 조치다.
EU 집행위원회는 앞서 2021년 4월 AI 규제 법안 초안을 제안했다. 2022년 11월 말 공개된 챗GPT가 두 달만에 월간 활성사용자수 1억 명을 돌파하자 이를 규제하는 데 한계가 있다고 보고 이후 해당 초안에 생성형 AI에 관한 규제 조항을 추가한 것으로 보인다.
EU 집행위원회 부위원장 마르그레테 베스타게르는 "생성형 AI 개발자는 AI가 학습한 데이터의 저작권을 공개해 일반 사용자가 볼 수 있도록 해야 하며, 일반 사용자가 생성형 AI를 통해 만든 글이나 이미지임을 알 수 있도록 'AI로 생성함'이라는 표시가 필요하다"라고 말했다.
생성형 AI는 단순히 기존 데이터를 분석하는 수준에서 그치지 않고 새로운 콘텐츠를 생성할 수 있는 인공지능이다. 생성형 AI는 인터넷에 공개된 방대한 양의 데이터를 기반으로 사용자가 입력하는 명령어에 따라 텍스트, 이미지, 영상, 음악 등 결과물을 만들어낸다.
이 과정에서 생성형 AI가 저작권이 있는 자료를 무단으로 사용함으로써 저작권을 침해한다는 지적이 계속 제기돼왔다. 지난 1월 이미지를 제공하는 기업인 게티이미지(gettyimages)는 자사가 소유한 이미지의 라이선스를 AI 학습에 사용했다는 이유로 스태빌리티 AI(Stability AI)를 저작권 침해로 고소하기도 했다. 스태빌리티 AI는 사용자가 입력한 명령어를 기반으로 이미지를 생성하는 AI 서비스 기업이다.
[사진출처=unsplash]
EU 집행위원회의 AI 규제 법안 초안이 법제화되면, 생성형 AI가 데이터를 학습하는 과정에서 사용했던 자료의 저작권이 모두 공개된다. 이에 따라 저작권 소유자들이 자신의 저작물을 사용한 생성형 AI 개발 기업에 저작권 사용 비용을 청구하거나 수익 분배를 요구할 수 있는 법적 근거가 마련된다.
EU 집행위원회는 AI 규제 법안 초안에 AI의 위험도를 최소(minimal), 제한적(limited), 고위험(high), 허용 불가(unacceptable)인 4단계로 나눠 차등적으로 의무를 부여한다는 내용을 담았다. AI의 위험도는 거짓 정보를 제공하는가, 생체 정보를 감시하는가, 차별적 언어를 포함하는가 등 몇 가지 평가 항목에 따라 분류된다.
AI를 개발하고 활용하는 기업은 AI 위험도에 따라 위험을 평가하고 이를 완화할 의무가 있다. AI 서비스를 출시하기 전에 위험 발생 가능성 여부를 검사할 뿐만 아니라 사후에도 모니터링할 의무가 있다. AI를 개발하고 서비스를 운영하는 과정을 기록하여 문서화하거나 AI 학습 데이터의 편향과 오류를 방지할 의무도 요구된다.
다만 ‘허용 불가’에 해당하는 AI 서비스일지라도 서비스 자체를 금지하는 대신 사용자에게 위험도를 직접적으로 공개한다. AI 업계가 자발적으로 위험도를 낮추기 위한 노력을 이끌어내는 것이 이번 초안의 핵심이다.
EU 집행위원회가 제안한 AI 규제 법안 초안은 EU 입법 절차에 따라 유럽의회와 EU 이사회의 논의를 거치게 된다. 수정된 AI 규제 법안은 이달 11일 소관위원회, 6월 중순 본회의 표결을 거쳐 최종안이 확정될 예정이다.
법안 세부 내용은 EU 회원국과 조율한 뒤 법률로 채택되며, 이르면 올해 안에 세계 최초로 AI에 대한 법적 규제가 시작될 전망이다. 유럽의 법과 규정은 국제적 표준이 되는 경우가 많아 이번 AI 규제 법안이 법제화되는 데 이목이 집중된다.
저작권자 © 밸류체인타임스 무단전재 및 재배포 금지
[밸류체인타임스 = 이수형 인재기자]