연방, AI 훈련법∙2023년 국방수권법∙알고리즘 책임법안∙미국 데이터 개인정보 보호법안 제안
[밸류체인타임스 = 이수형 인재기자] 미국의 연방과 각 주는 개인 정보, 차별 금지 등 권리 보호, AI 사용 증진, 위험 관리, 국방 등 다양한 분야에서 AI에 관한 정책을 논의하고 있다. 연방의 AI 정책은 AI 사용을 증진하고, 잠재적 위험을 완화하기 위한 정책을 제시한 반면, 각 주법은 AI 사용 과정에서 발생할 수 있는 위험에 대한 규제에 초점을 두고 있다.
연방은 여러 보고서와 지침으로 AI 정책의 방향성을 제시했으며, AI 사용을 증진하기 위한 AI 훈련법과 2023년 국방수권법을 이미 제정했다. 이외에도 알고리즘 책임법안, 미국 데이터 개인정보 보호법안 등을 제안했다.
지난해 10월 백악관은 인공지능 권리장전의 초안을 발표한 바 있다. 이 보고서에는 AI 시대를 맞이한 미국 시민의 권리를 보호하기 위해 ▲안전하고 효과적인 시스템, ▲알고리즘 차별로부터의 보호, ▲데이터 관련 사생활 보호, ▲고지와 설명, ▲인간 대안 마련 등 다섯 가지 원칙이 담겨있다.
[사진출처=이수형 인재기자]
미국 시장조사기관 가이드하우스(Guidehouse) 인사이트의 인공지능 수석인 바셀 하이다는 "권리장전이 널리 받아들여진다면 AI 개발자들은 인공지능이 보다 정확하게 작동하는지, 올바른 결정을 내리고 예측을 하는지 끊임없이 모니터링해야 할 것"이라고 말했다.
스탠퍼드대학교 인간중심 AI연구소의 정책 국장 러셀 왈드는 인공지능 권리장전에 대해 "실질적인 시행을 위한 세부 사항이 부족하다. 이미 사용되고 있는 대형언어모델(LLM)이나 오픈소스 모델이 가져올 위험과 피해를 해결하기 위해서 일관성 있는 연방 정책이 부족하다"고 비판했다.
인공지능 권리장전은 가이드라인일뿐 법적 지위를 가지고 있지 않기 때문에 강제력은 없으나 다른 부서나 기관들에 의해 공권력 있는 법으로 재탄생할 가능성이 있다.
2022년 10월, 연방에서 근무하는 행정 인력의 AI에 대한 이해도를 높이고 AI를 윤리적이고 안전하게 사용하기 위해 AI 훈련법이 제정됐다. 이 법은 일부 행정기관에 대하여 행정기관의 인력이 인공지능 교육 프로그램을 통해 AI과 관련된 기능을 익히고 AI로 인한 위험에 대한 지식을 갖추도록 요구하고 있다.
2022년 12월 23일 바이든 대통령은 국방수권법에 서명했다. 국방수권법에는 미국 국방부와 연방의 정보 기관이 AI 시스템과 기능을 정보 수집 및 분석, 데이터 관리, 사이버 보안 등 기관 운영에 통합하여 사용하도록 명시하고 있다.
[사진출처=unsplash]
알고리즘 책임법안은 2022년 2월 연방 의회에서 제안됐다. 이 법안은 빅테크기업에게 고용, 금융, 의료, 주택, 법률 서비스를 포함한 다양한 부문에서 중요한 결정을 내리는 "자동화된 의사 결정 시스템"이 얼마나 편향된 결과를 내는지, 이로 인해 어떤 영향을 미칠지 파악하도록 요구하고 있다.
법안에 따르면, 이러한 영향 평가 문서는 연방거래위원회에 의무적으로 제출해야 한다. 자동화된 의사 결정 시스템이란 기계 학습, 통계, 데이터 처리 또는 인공 지능 기술에서 파생된 모든 시스템인 소프트웨어 또는 프로세스를 의미한다.
최근 미국공정고용기회위원회는 고용 결정에 있어 장애가 있는 구직자를 선별하는 도구로 AI 및 알고리즘 의사결정 시스템을 사용하는 경우, 해당 기업은 미국 장애인법을 위반하게 될 수 있음을 경고했다.
AI를 잠재적으로 오용하거나 의도치 않게 도출될 우려가 커지는 가운데 미국의 일부 주 및 시 차원에서도 AI 규제 법안이 제안됐다. 다만 주 및 시 차원의 AI 관련 규제는 주로 모집, 채용, 승진, 업무 등 자동화된 고용 의사 결정에 초점을 맞추고 있다. 이와 관련된 규제안은 AI가 평등한 고용 기회를 막거나 인력의 다양성을 저해하지 않도록 보장하는 내용을 담고 있다.
일리노이 주에서는 인공지능 비디오 면접법이 제정됐다. 이는 화상 면접에서 AI를 사용하여 고용에 관한 의사를 결정할 때 일어날 수 있는 편향을 방지하기 위한 법이다. 이 법에 따르면 기업은 지원자에게 화상 면접 분석에 AI가 사용된다고 알려 면접 전에 동의를 받아야 하며, 화상 면접 영상을 외부로 공유하지 않아야 한다. 뿐만 아니라 영상 면접 AI 분석만을 사용해 직원을 뽑은 고용주는 매년 주정부에 채용 및 미채용자의 인종과 민족을 보고할 의무가 있다.
지난 4월 미 상부무 산하 국가통신정보관리청(NMIA)은 AI가 안전하고 신뢰할 수 있는 방식으로 사용될 수 있도록 AI에 책임성을 부여하는 방안에 대해 학자 및 기술 기업 관계자 등의 의견을 청취하기로 했다. 챗GPT와 같은 생성형 AI에 책임을 부과하는 방법, 연방 차원에서의 AI 규제의 필요성 등 논의를 담은 최종 보고서는 6월 중 백악관에 제출될 예정이다.
저작권자 © 밸류체인타임스 무단전재 및 재배포 금지
[밸류체인타임스 = 이수형 인재기자]
연방, AI 훈련법∙2023년 국방수권법∙알고리즘 책임법안∙미국 데이터 개인정보 보호법안 제안
[밸류체인타임스 = 이수형 인재기자] 미국의 연방과 각 주는 개인 정보, 차별 금지 등 권리 보호, AI 사용 증진, 위험 관리, 국방 등 다양한 분야에서 AI에 관한 정책을 논의하고 있다. 연방의 AI 정책은 AI 사용을 증진하고, 잠재적 위험을 완화하기 위한 정책을 제시한 반면, 각 주법은 AI 사용 과정에서 발생할 수 있는 위험에 대한 규제에 초점을 두고 있다.
연방은 여러 보고서와 지침으로 AI 정책의 방향성을 제시했으며, AI 사용을 증진하기 위한 AI 훈련법과 2023년 국방수권법을 이미 제정했다. 이외에도 알고리즘 책임법안, 미국 데이터 개인정보 보호법안 등을 제안했다.
지난해 10월 백악관은 인공지능 권리장전의 초안을 발표한 바 있다. 이 보고서에는 AI 시대를 맞이한 미국 시민의 권리를 보호하기 위해 ▲안전하고 효과적인 시스템, ▲알고리즘 차별로부터의 보호, ▲데이터 관련 사생활 보호, ▲고지와 설명, ▲인간 대안 마련 등 다섯 가지 원칙이 담겨있다.
[사진출처=이수형 인재기자]
미국 시장조사기관 가이드하우스(Guidehouse) 인사이트의 인공지능 수석인 바셀 하이다는 "권리장전이 널리 받아들여진다면 AI 개발자들은 인공지능이 보다 정확하게 작동하는지, 올바른 결정을 내리고 예측을 하는지 끊임없이 모니터링해야 할 것"이라고 말했다.
스탠퍼드대학교 인간중심 AI연구소의 정책 국장 러셀 왈드는 인공지능 권리장전에 대해 "실질적인 시행을 위한 세부 사항이 부족하다. 이미 사용되고 있는 대형언어모델(LLM)이나 오픈소스 모델이 가져올 위험과 피해를 해결하기 위해서 일관성 있는 연방 정책이 부족하다"고 비판했다.
인공지능 권리장전은 가이드라인일뿐 법적 지위를 가지고 있지 않기 때문에 강제력은 없으나 다른 부서나 기관들에 의해 공권력 있는 법으로 재탄생할 가능성이 있다.
2022년 10월, 연방에서 근무하는 행정 인력의 AI에 대한 이해도를 높이고 AI를 윤리적이고 안전하게 사용하기 위해 AI 훈련법이 제정됐다. 이 법은 일부 행정기관에 대하여 행정기관의 인력이 인공지능 교육 프로그램을 통해 AI과 관련된 기능을 익히고 AI로 인한 위험에 대한 지식을 갖추도록 요구하고 있다.
2022년 12월 23일 바이든 대통령은 국방수권법에 서명했다. 국방수권법에는 미국 국방부와 연방의 정보 기관이 AI 시스템과 기능을 정보 수집 및 분석, 데이터 관리, 사이버 보안 등 기관 운영에 통합하여 사용하도록 명시하고 있다.
알고리즘 책임법안은 2022년 2월 연방 의회에서 제안됐다. 이 법안은 빅테크기업에게 고용, 금융, 의료, 주택, 법률 서비스를 포함한 다양한 부문에서 중요한 결정을 내리는 "자동화된 의사 결정 시스템"이 얼마나 편향된 결과를 내는지, 이로 인해 어떤 영향을 미칠지 파악하도록 요구하고 있다.
법안에 따르면, 이러한 영향 평가 문서는 연방거래위원회에 의무적으로 제출해야 한다. 자동화된 의사 결정 시스템이란 기계 학습, 통계, 데이터 처리 또는 인공 지능 기술에서 파생된 모든 시스템인 소프트웨어 또는 프로세스를 의미한다.
최근 미국공정고용기회위원회는 고용 결정에 있어 장애가 있는 구직자를 선별하는 도구로 AI 및 알고리즘 의사결정 시스템을 사용하는 경우, 해당 기업은 미국 장애인법을 위반하게 될 수 있음을 경고했다.
AI를 잠재적으로 오용하거나 의도치 않게 도출될 우려가 커지는 가운데 미국의 일부 주 및 시 차원에서도 AI 규제 법안이 제안됐다. 다만 주 및 시 차원의 AI 관련 규제는 주로 모집, 채용, 승진, 업무 등 자동화된 고용 의사 결정에 초점을 맞추고 있다. 이와 관련된 규제안은 AI가 평등한 고용 기회를 막거나 인력의 다양성을 저해하지 않도록 보장하는 내용을 담고 있다.
일리노이 주에서는 인공지능 비디오 면접법이 제정됐다. 이는 화상 면접에서 AI를 사용하여 고용에 관한 의사를 결정할 때 일어날 수 있는 편향을 방지하기 위한 법이다. 이 법에 따르면 기업은 지원자에게 화상 면접 분석에 AI가 사용된다고 알려 면접 전에 동의를 받아야 하며, 화상 면접 영상을 외부로 공유하지 않아야 한다. 뿐만 아니라 영상 면접 AI 분석만을 사용해 직원을 뽑은 고용주는 매년 주정부에 채용 및 미채용자의 인종과 민족을 보고할 의무가 있다.
지난 4월 미 상부무 산하 국가통신정보관리청(NMIA)은 AI가 안전하고 신뢰할 수 있는 방식으로 사용될 수 있도록 AI에 책임성을 부여하는 방안에 대해 학자 및 기술 기업 관계자 등의 의견을 청취하기로 했다. 챗GPT와 같은 생성형 AI에 책임을 부과하는 방법, 연방 차원에서의 AI 규제의 필요성 등 논의를 담은 최종 보고서는 6월 중 백악관에 제출될 예정이다.
저작권자 © 밸류체인타임스 무단전재 및 재배포 금지
[밸류체인타임스 = 이수형 인재기자]