「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」

Aidemy Premium

　IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。

　物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。

　これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講者自身も後に「医学的根拠は現状ない」と追記しています。

　またブログで、テーマの選定にあたって「チューターの後押しがあった」といった記述が見られたことから、講座を開設しているアイデミーに対して「なぜ止めなかったのか」との批判が寄せられました。

　同社は7日に「Aidemy Premium サービス強化と新たな取り組みについて」とする声明を発表。「弊社サービスをご利用の学習者様が作成する学習成果物に関し、運営体制の不備から公開された内容について、倫理的に懸念される状況が発生しました」として謝罪しました。

　同社はサービス内で提供している情報、運営を見直し、ガイドラインの強化と従業員教育の徹底を進めるとしており、また受講者向けにはAI倫理のコースなど、学習が推奨される内容のコンテンツを拡充し、順次追加費用なく提供するとしています。

　ねとらぼ編集部がこの件についてアイデミーに問い合わせたところ「ご指摘・ご意見について真摯に受けとめております。現在、社内で早急に事実確認の実施・改善に向けた対応を進めております」との回答がありました。

　テーマ選定に当たってチューターの後押しがあったとされる点については、カウンセリングに当たっては「特定のテーマを肯定あるいは否定するなどは行わず、受講者自身で検討し選択できるようにする姿勢を堅持した」「テーマ選定にあたって選ぶ基準案を例示（これまでの経歴と親和性のありそうなテーマが取り組みやすい）」の2点を行ったと説明しています。

　同社は「当社の運営について振り返るべき点があり、当該過程の実施にあたって当社からの情報提供や機会提供において改善点があったと考えております」としており、社内ガイドライン、特に受講者への対応に関するものの見直しを既に始めていると述べています。

　「受講者が自身の選択を実行することで起こす可能性がある他者・自身への損害など、リスクに関する情報提供と認識保有の促進」「学習過程の目的により適した学習の実施方法の情報提供・認識機会の提供」を改善が必要な部分として同社は挙げています。

　修了条件である成果物（アプリ・ブログ）は公開必須でないにもかかわらず、公開必須でないことに明確な言及ができておらず、ブログ作成時に公開が必要と取れる可能性のある記載があったとして、これらを改善するとも述べています。

　なお同社は8月5日付けでガイドライン強化のほか、規約の改定を発表していますが、規約の改定については今回の件を受けてのものではないとしています