- 法律は、 IA リスク レベルに基づいて、許容できないリスクと高リスクのカテゴリに分類されます。
- 生体認証の分類や予測ポリシングなどのアプリケーションは、司法の許可なしに禁止されています。
- 高リスクの AI システムは評価され、人間による監視が行われ、透明性の要件を満たす必要があります。
- 規制を遵守しない者には、多額の罰金が科せられます。
欧州連合（EU）は、人工知能（AI）の規制において引き続き主導的な役割を果たしており、市民の権利を保障しつつイノベーションを促進する、前例のない規制枠組みを確立しました。2024年8月1日に正式に施行されたこの新法により、欧州はAI技術の開発と導入を規制する法整備において、世界をリードする存在となりました。
この規制の発効により、EUは、プライバシー権やデータ保護権といった基本的人権を侵害する可能性のあるAIアプリケーションの使用と販売を制限する意向を明確にしました。そのため、この法律は、各AIシステムがもたらすリスクのレベルに応じて異なる厳格な規制を導入し、AI技術が責任ある形で管理された方法で発展していくための安定した枠組みを提供します。
国民を守るための主な禁止事項
この法律で最初に取り上げられるのは、社会に容認できないリスクをもたらすAIの禁止された利用方法です。性的指向、宗教的信条、政治的信条といった機密性の高いパラメータを用いた生体認証による分類技術の利用は厳しく禁止されており、インターネットや監視カメラの映像から得られた顔認識データベースを作成するためのAIの無差別な利用も同様に禁止されています。
さらに、人間の行動を操作したり、脆弱性を悪用したりできるAIシステム、および感情認識システムは、職場や学校での使用が禁止されています。これらの禁止事項はすべて、潜在的な技術的悪用から国民を保護する必要性に基づいています。ただし、行方不明者の捜索やテロ攻撃の防止など、非常に特殊な状況においては、法執行機関が事前に司法の許可を得た上で生体認証システムを使用できるという例外規定が設けられています。
ハイリスクシステム: 規制と透明性
この規制のもう一つの重要な焦点は、高リスクに分類されるAIシステムです。これには、教育、基幹インフラ、雇用、移民、司法といった重要分野で使用されるアプリケーションが含まれます。市民の経済状況や求職者の選考に影響を与える可能性のあるシステムも、このカテゴリーに含まれます。
これらのシステムを提供する事業者は、厳格なリスク評価を受け、人間の監視下に置かれることを保証しなければならない。また、システムの使用状況に関する詳細な記録を保持し、AIが重要な人生の決断を仲介する場合、市民に明確な情報を提供することも求められる。
さらに、企業はAIシステムの透明性と正確性を確保する必要があり、そのためにはモデルのトレーニングに使用したデータの種類を報告するとともに、潜在的な偏りやエラーを検出するための定期的なレビューを実施する必要がある。
汎用システムとそのリスク
この規制は、いわゆる汎用AIシステムも対象としている。汎用AIシステムは、当初特定の用途を持たないものの、様々なタスクを実行できるように適応させることが可能であり、その中には高リスクとみなされるものもある。その明確な例として、ChatGPTやGeminiのような生成型AIプラットフォームが挙げられる。これらのプラットフォームの用途は、当初想定されていた範囲をはるかに超えている。
これらの汎用システムは、その利用が社会の重要な側面に重大な影響を及ぼす可能性があるため、高リスクシステムと同様の要件を満たす必要があります。さらに、法律では、サイバー攻撃へのAIの悪用や重要インフラへの干渉といった潜在的な脅威を検出するために、これらのシステムを継続的に見直すことが義務付けられています。
法律違反者に対する罰金と制裁
この規制では、定められた規則を遵守しない者に対して高額の罰金が科せられることが定められており、重大な違反の場合は35万ユーロまたは企業の全世界売上高の7％、軽微な違反の場合は7,5万ユーロまたは売上高の1,5％となる。
議員らによると、この厳しい制裁措置は、基本的人権と自由が尊重される技術環境を構築する必要性に応えるものだという。EU当局は本法の遵守状況を監視する責任を負い、企業が規制に完全に対応できるよう支援するため、新たにAIオフィスが設置される予定だ。
法律の完全適用の期限
EUのAI規制は段階的に施行される。既に発効しているものの、一部の措置は今後2年間は完全には実施されないことが決定している。しかし、最も重要な行為に対する禁止事項は今後6ヶ月以内に実施され、高リスクシステムについては、規制発効から36ヶ月後に義務が発効する。
この法律は、AIの倫理的な利用を確保するだけでなく、他の市場が参考にできる基準を確立することで、この分野における欧州の競争力を高めることを目指すEUにとって、画期的な出来事となる。このようにして、欧州は、イノベーションを阻害することなく市民の権利と自由を保護することに重点を置き、新興技術の規制におけるグローバルリーダーとしての地位を確立する。
バイトの世界とテクノロジー全般についての情熱的なライター。私は執筆を通じて自分の知識を共有するのが大好きです。このブログでは、ガジェット、ソフトウェア、ハードウェア、技術トレンドなどについて最も興味深いことをすべて紹介します。私の目標は、シンプルで楽しい方法でデジタル世界をナビゲートできるよう支援することです。