AIに認識されにくくするカモフラージュ柄を生成するQosmoの アルゴリズムを実験的テキスタイルレーベルUNLABELEDが採用

10月22日（金）より DESIGNART TOKYO 2021（渋谷 PARCO1F COMINGSOON）にてインタラクティブインスタレーションを公開

AIの活用による創造性の発展に取り組む株式会社Qosmo（本社：東京都目黒区、代表取締役社長：徳井直生、以下「コズモ」）は、身につけるだけでAI監視カメラに人として認識されにくくすることを可能にするテキスタイルパターンを開発し、Dentsu Lab Tokyoと共に立ち上げたテキスタイルレーベル「UNLABELED（アンラベルド）」に採用されました。10月22日（金）より開催する日本最大級のデザイン＆アートの祭典「DESIGNART TOKYO 2021」に新作展示会『Camouflage Against the Machines』を出展します。また、本展示において、デザインコンセプトを表現する新たなインタラクティブインスタレーション作品「LABELING EYE」を公開します。

本プロジェクトの背景とねらい

人工知能技術の発展とともに、様々な物体（人間、動物、車など）や特徴（年齢、性別、大きさなど）を監視カメラの映像などから簡単に抽出することが可能になってきました。犯罪者の場所の特定などにおいてすでに成果を上げるなど、社会における利用価値が実証されていく一方で、必要以上の監視が行われることによるプライバシーの侵害や、不平等の助長などの可能性が指摘され、「AI倫理」に関する議論が始まっています。

このような技術の社会実装が進むとともに、今後個人の考え方や行動がどのように影響されていくのかを探るための取り組みとしてコズモでは「敵対的機械学習」の技術に着目してきました。監視社会に対するオルタナティブな視点を提供することで、AI技術の活用が進むことによる社会の変化に関する議論や、そこから派生する創造性の発展を促進していくことを目的としています。

今回開発した技術の紹介

物体認識AIアルゴリズムの精度向上の研究において、その認識精度を狂わせる対象物への理解は重要な課題です。特定の物体が映り込むことで認識精度が大きく影響されるようなことがあれば、社会実装後の機能にも支障が出る可能性があります。今回コズモは2018年に米グーグルの研究者が発表したAdversarial Patch（arXiv:1712.09665）というアルゴリズムに着目し、これを応用することにより任意の対象へのAIの認識を妨げることや、異なる対象として誤認識させるパターンを開発しました。また、衣服としての活用や「カモフラージュ」のモチーフを念頭に置きながらも人としての認識率を低下を大きくするための実験を繰り返しました。今回生成されたパターンの一部は添付イメージ及びUnlabeledウェブサイト（https://unlabeled.jp/）でもご覧いただけます。本技術の詳細に関しては弊社プロジェクトページ（https://qosmo.jp/projects/unlabeled/）をご覧ください。

*カモフラージュ柄は物体検出モデル YOLOv2 をベースに生成しており、すべての監視カメラ に対して有効なわけではありません。また、カメラの角度や距離、明るさなどの環境によって 結果が異なる場合があります。

今回展示するインスタレーション：LABELING EYE

10月22日（金）より開催する日本最大級のデザイン＆アートの祭典「DESIGNART TOKYO 2021」に出展する『Camouflage Against the Machines』においてはコズモの所属プログラマーによる新しいインタラクティブ・インスタレーション「LABELING EYE」を公開します。本インスタレーションは前述のデザインパターンを生成する際に使われたアルゴリズムに基づいて開発されており、その場に設置されたカメラの前に立つことで物体認識アルゴリズムをリアルタイムで体験するとともに、今回開発されたカモフラージュデザインを使ってそのアルゴリズムを騙す事ができます。

本展示においては同カモフラージュ柄を使ったパーカーやスケートボードなどの限定商品も販売しておりますので、ぜひこの機会にお立ち寄り下さい。