はじめに
本年3月に欧州連合議会において、人工知能（AI）の包括的な規制法案が可決されました。
ＥＵ加盟国が5月に正式に承認し、2025年の早期に発効し、2026年から適用される見通しです。
本件は欧州域内加盟国の企業や団体に適応されますが、欧州に支店や事業所を持つ欧州外の企業や、欧州企業と取引のある企業に対しても適応されますので、実質的には全世界の企業に課される規制です。
当社の事業に大きく関係がありますので、その内容と当社の対応方針を説明いたします。
欧州議会がAI規制法を採択した意図
欧州連合AI規制法のP9_TC1-COD(2021)0106にて本規制の意図が記述されています。
AIによる利益と潜在的なリスクとのバランスを図り、欧州地域を強化する信頼できるAIを目指しており、その内容は以下の2点に要約されます。
1.市民を保護し、信頼できるAIを促進する
この規制はAIシステムによるリスクを最小限に抑えることを目的としています。
AIシステムがプライバシー及び公正という基本的権利を遵守していることを保証し、リスクの高いAIシステム、例えばソーシャル・スコアリングや操作戦術のようなAIの特定の利用を制限するものです。
2.責任ある方法でイノベーションを育成
この規制はAIの発展を妨げるものではありません。
むしろ、企業が責任を持ってAIを開発・利用するための明確な枠組みを作るものです。
これにより、AIを倫理的に発展させるリーダーとしての欧州の地位を強固にするものです。
欧州連合の規制は、規制部分のみが強調されますが、実はAIを用いてイノベーションを育成することに主眼がありまして、倫理的に信頼できるAIの開発と利用を欧州が先導することにより、欧州地域の価値を高めることを意図しているものと思われます。
AI規制案の内容（当社事業に関連する部分）
本規制法第 II章 第5節 1項 (f)に、医療または安全上の場合を除き、職場や教育機関の分野で自然人の感情を推測するための AI システムの使用を禁止すると謳われています。
では、AIシステムと感情認識システムをこの規制法でどのように規定しているかと言うと、次のようになります。
AIシステムの定義
「AIシステム」とは、様々なレベルの自律性で動作するように設計され、配備後に適応性を示す可能性があり、明示的または暗黙的な目的のために、物理的または仮想的な環境に影響を与えることができる予測、コンテンツ、推奨、または決定などの出力を生成する方法を、受け取った入力から推測する機械ベースのシステムを意味する。(Article 3 Definitions (1))
感情認識システム(Emotion Recognition System)の定義
「感情認識システム」とは、自然人の生体データに基づいて、自然人の感情または意図を識別または推論することを目的とするAIシステムをいう。(Article 3 Definitions (39))
当社の認識
結論から申し上げますと、当社が提供する感情解析システムALICe はEUで定義するAIシステムの範疇には含まれないと認識しています。
当社の提供する感情解析システムALICeでの感情認識の演算方法は、提携先であるNemesysco社が20年以上にわたって使用しているLVA(Layard Voice Analysis)テクノロジーを用いています。
LVAテクノロジーは、専門家が20年以上にわたって細心の注意で分析した専門知識に基づいて感情データを出力しており、人工知能に基づいているわけではありません。
これはEUがAIの定義として用いている「受け取った入力から推測する機械ベースのシステム」ではありません。従って、ALICe はAIシステムにより感情を認識しているわけでは無いと言えます。
当社の対応方針
上記認識に鑑み、当社提供の感情解析システムALICeはEUのAI規制法案の対象外と考えております。
しかしながら、当社はEUのAI規制法の立法趣旨を尊重し、以下の点を重視して事業活動を行っていきます。
①透明性の確保
AIの使用方法と、システムが取得した感情データの解析プロセスを明確に示します。
②データ保護とプライバシー及び公平性の確保
当社は欧州連合の定めるGDPR（General Data Protection Regulation）を遵守し、個人データの保護とプライバシーの確保に努めます。
また特定の人物や団体に対する偏向的な取り扱いは致しません。
③人間による意思決定関与（AIのみによる意思決定の排除）
当社の提供する感情解析システムはAIのみによる意思決定を行いません。
AIは人間の判断を補完するためにのみ使います。