【IT】OpenAI、対話AIの安全策公表　欧米での批判受け

【シリコンバレー=渡辺直樹】人工知能（AI）開発の米オープンAIは5日、高度な言語能力を持つAIの安全面での施策を公表した。外部の専門家や利用者の声を交え、動作監視して改善するほか、AIの訓練に使うデータから個人情報をできる限り削除することなどを掲げた。プライバシー侵害をめぐり欧米で批判や懸念の声が強まっていることに対応した。

人と自然な会話ができるサービス「ChatGPT（チャットGPT）」と、それを動かすための基盤となる最新技術「GPT-4」に関して施策を発表した。GPT-4は従来の8倍にあたる2万5000語まで文章を扱えるようになり、米国の司法試験の模擬試験では上位10%程度の成績で合格する性能を誇る。だが、どのようにデータを集めているか不透明で、イタリアの当局が個人情報保護の法令に違反するとみて一時的に禁止していた。

オープンAIは可能な場合は、AIを訓練するデータから個人情報を削除する。外部から個人情報の削除の要請があった場合にも応じることでプライバシー侵害を最小限にするとしている。

また動作については外部の専門家や利用者の声を反映して改善し、監視する仕組みをつくる。「API」と呼ばれる外部ソフトとの連携機能を通じ、実際のサービスの使われ方を確認することで、不正使用を防ぐようにするという。

オープンAIはチャットGPTなどについて「リスクが伴うことを認識しており、すべてのレベルで安全性が確保できるように取り組む」とコメントした。実際に安全性への懸念に対応していく有効な手立ては「多くの時間とリソースを費やすことだ」とし、今後も利用者や利害関係者との対話を続けていくと主張した。

これまでの取り組みとして、GPT-4の公開の前には6カ月以上安全性などを確認する作業を実施し、事実を回答する正確性も従来より40%向上したことを明らかにした。ヘイトスピーチや暴力、アダルトコンテンツといった不適切コンテンツに応答する可能性を82%下げたと説明している。

言葉を入力するだけで何でも返答したり、絵を描いたりする高度なAIは急速に性能が向上している。オープンAIには米マイクロソフトが巨額投資をしているほか、米グーグルも対話型AIサービスの「Bard（バード）」を発表し、開発競争が激しくなっている。

一方で、高度なAIは基になるデータの不正な収集、差別や偽情報の助長、サイバー攻撃への悪用といった課題を抱える。イタリアの一時禁止をはじめ、個人データ保護法制が厳しい欧州で規制強化が進む可能性がある。米国では非営利団体などがさらに高度なAI開発の危険性を指摘して署名活動をしているほか、当局にサービス差し止めを求める動きもある。
2023年4月6日 12:07
https://www.nikkei.com/article/DGXZQOGN061270W3A400C2000000/

田舎の囲炉裏で魚食ってる方が幸せなんだよ

データ収集先がイマイチ分からないってのは結構深刻で、一部の世界のマジョリティを正しいとする判断を起こす。
民の意識と方向性が傾倒して加速度的に画一化する可能性が高い。

攻殻機動隊の漫画でもタチコマが精神汚染されてるとかで途中でやめたよな

使ったこともないのにケチつけてるヤツ多そう

AIといっても自分で考えて答えを導き出すAIじゃないから
開発者の思想で回答が偏る可能性がいくらでもあるからね

chatGPTは綺麗事しか返してこない、毒吐くAIキボンヌ

外野にうるさく言われない中国に抜かれるのも時間の問題

イケるところまでやったらええやん