近年のAIの発展に伴い、さまざまな物体（人・モノなど）や特徴（属性や大きさなど）をカメラ映像から簡単に抽出できるようになりました。一方で、必要以上の監視によるプライバシーの侵害などの可能性が指摘され、「AI倫理」に関する議論も始まっているといいます。
そんななか、株式会社Qosmo（コズモ）は、「敵対的機械学習」という技術に着目し、AI監視カメラに人として認識されにくくするカモフラージュ柄を生成するアルゴリズムを開発。コズモとDentsu Lab Tokyoが共同で立ち上げたテキスタイルレーベル「UNLABELED（アンラベルド）」で採用しました。
そして2021年10月22日より開催されるデザイン＆アートの祭典「DESIGNART TOKYO 2021」に新作展示会「Camouflage Against the Machines」を出展。その中で、デザインコンセプトを表現する新たなインタラクティブインスタレーション作品「LABELING EYE」を公開予定です。
AIに見つかりにくい服！？AIの誤認識を誘発するには、入力画像にノイズを乗せるAdvesarial Exampleという手法と、入力画像ではなく入力となる画像（もとの物体）の中にパッチを含めるAdversarial Patchという手法があります。コズモが着目したのは後者の手法で、これは2018年に米グーグルの研究者が発表したものです。
今回開発されたアルゴリズムでは、監視カメラに対してかざすことで、人としての認識率を減少させるカモフラージュ柄を生成できます。
Adversarial Patchを応用しているため、パッチとなるカモフラージュ柄を実際に印刷して実世界で使用できるのがポイント。この特徴を生かし、カモフラージュ柄をデザインとして取り入れた衣服を制作しました。
なお、このカモフラージュ柄は、物体認識モデル「YOLOv2」に対して機能するよう生成されているため、すべての監視カメラに有効なわけではないといいます。
コズモは、監視社会に対するオルタナティブな視点を提供することで、AI技術の活用が進むことによる社会の変化に関する議論や、そこから派生する創造性の発展を促進していくことを目的に同アルゴリズムを開発したとのことです。
新作展示会でインスタレーション作品公開今回、「DESIGNART TOKYO 2021」に出展する新作展示会「Camouflage Against the Machines」では、インタラクティブ・インスタレーション作品「LABELING EYE」を公開予定。
同作品は、コズモのアルゴリズムに基づいて開発されていて、その場に設置されたカメラの前に立つことで物体認識アルゴリズムをリアルタイムで体験するとともに、生成されたカモフラージュデザインを使ってそのアルゴリズムを騙すことができるといいます。
なお、同展示において、このカモフラージュ柄を使ったパーカーやスケートボードなどの限定商品も販売するとのことです。
PR TIMES
株式会社Qosmo
（文・Higuchi）