企業が生成AIを使う時に気をつけたい3つのこと 万全な管理のコツは、ユーザーとIT部門の連携
東洋経済オンライン / 2024年10月7日 9時0分
生成AI技術が、ビジネスの現場に急速に普及している。クラウドなどの脅威を調査するアメリカのNetskope Threat Labsが2024年7月に公表した調査結果によると、生成AIを利用する企業の数は1年前の74%から96%に増えた。ほぼすべての企業が利用するようになっている。また、1つの企業が利用する生成AIアプリの数とユーザー数は、どちらも前年比で3倍に増えた。
46%が「生成AIに独自のソースコードを共有」
現状、生成AIの典型的な使い方は、ChatGPTなどの機能がアプリケーションやポータルなどに組み込まれ、ユーザーの検索、複製、編集、コンテンツ作成などの業務を支援するといったものである。
一方で課題もある。生成AIに入力したデータは、生成AIサービス提供者側のコンピューターが学習することになる。そこで、他ユーザーが生成AIに文章などを作成させた際に、自社の機密情報を含む文章ができてしまい、結果として機密情報が漏洩するリスクがある。
同じ調査では、生成AIアプリケーションに独自のソースコードを共有してしまったという内容の事案が、あらゆるデータポリシー違反の46%を占めていることがわかっている。こうした状況を放置すれば、場合によって企業は巨額の損失を被る可能性があるため、生成AIに関するデータ管理には万全の体制で臨む必要がある。
具体的に企業はどんなことに取り組むべきなのか。生成AIを使う時に気をつけたい3つのポイントを解説し、それぞれの問題にどう対処するべきかを、ユーザー側と管理側であるIT部門の2つの立場から考えてみよう。
ポイント①機密情報の流出に注意する
サムスン電子は2023年3月30日、ChatGPT経由で社内の機密情報が少なくとも3件流出したことを公表した。うち1件は、歩留まりや不良設備などを確認するためのプログラムに関連したソースコードをChatGPTに入力し、ソースコードの改善を試みた時に発生した。もう1件は、社内会議の録音データを文書ファイルに変換し、ChatGPTに入力して議事録を作成した際に起きた。生成AIの中核である大規模言語モデル(LLM)は常に「学習」しているため、プロンプトに入力した機密情報も、学習の対象になってしまう。
このように生成AIは、制御しながら使わないと、自社の機密情報や個人情報をばらまく媒体となり得る。もし、ライバル企業との差別化に関する情報が漏れれば、将来にわたって競争優位性を失うかもしれない。あるいは、生成AIを用いて営業資料を作成する際に、顧客の情報を誤って入力してしまい、それが漏洩すれば、法的な事態に発展してしまう。企業が社員に生成AIの利用を許可することには、メリットとデメリットの両面があることに留意しておきたい。
この記事に関連するニュース
-
OpenAIのChatGPT Enterprise Compliance APIとの統合も含め、生成AIプラットフォーム全体にわたって可視性、コントロール、リスクベースのデータ保護を提供
PR TIMES / 2024年9月24日 14時45分
-
SELFBOT(生成AI)のRAGがアップデート。画像の多いカタログやマニュアルも高精度で読み取り。
PR TIMES / 2024年9月20日 15時15分
-
【活用提案】iPadで生成AI「Copilot」を使いこなすための基本をマスターしよう
ASCII.jp / 2024年9月18日 13時0分
-
Netskope、製造業界のAIアプリの利用状況に関する新たな調査結果を発表 AIアプリの利用増加に伴い、同業界を狙う攻撃手法の多様化が明らかに
PR TIMES / 2024年9月10日 14時15分
-
ChatGPTに重要な情報を送っても安全か? 自治体のネットワーク分離モデルから考える
ITmedia ビジネスオンライン / 2024年9月9日 6時55分
ランキング
-
1川崎重工、「相次ぐ不正」で業界3位に凋落の危機 防衛の裏金問題と舶用エンジン不正に社長陳謝
東洋経済オンライン / 2024年10月7日 9時0分
-
2消費者とオンラインで開発の日本酒 ラベルも一般公募 酔鯨酒造
食品新聞 / 2024年10月7日 13時25分
-
3恐ろしい…軽快なBGMのもと繰り返される「家電量販店の最安値宣言」に込められた、本当の意味【経済評論家が解説】
THE GOLD ONLINE(ゴールドオンライン) / 2024年10月6日 9時15分
-
4〈年金月6万円〉妻を亡くした、ひとり暮らしの72歳破天荒な父…訪ねた息子も言葉を失う「あまりに奇妙な生活実態」【FPが解説】
THE GOLD ONLINE(ゴールドオンライン) / 2024年10月7日 10時45分
-
5その接待、1万円が「経費で落ちるか否か」の分岐点 「2024年度税制改正」を踏まえた経理上の留意点
東洋経済オンライン / 2024年10月7日 12時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください