1: 山師さん 2023/06/01(木) 01:34:26.54 ID:ZAhdQ7f6
米非営利団体は30日、感染症のパンデミック（世界的大流行）や核戦争と同様に、人工知能（AI）が人類に絶滅をもたらすリスクを考慮すべきだとする共同声明を発表した。対話型AI「Chat（チャット）GPT」を開発した米新興オープンAIのサム・アルトマン最高経営責任者（CEO）など350人超が共同で署名した。
米サンフランシスコを拠点とし、AIの安全性を検証する非営利団体のセンター・フォー・AIセーフティーが共同署名の形で声明を公開した。
共同署名にはAI研究の大家として知られるカナダのトロント大学のジェフリー・ヒントン名誉教授のほか、米アルファベット傘下でAIを開発するグーグルディープマインドのデミス・ハサビスCEO、AI新興アンソロピックのダリオ・アモデイCEOも名を連ねた。
声明は「AIによる（人類）絶滅のリスクを軽減することは、パンデミックや核戦争などと並び、世界の優先事項であるべきだ」としている。チャットGPTに代表される高度なAIがもたらす将来的な危険性について議論を呼びかけた。
生成AIは偽情報の拡散や差別の助長のほか、サイバー攻撃や兵器などへの軍事転用の問題がある。欧州では包括規制に向けた動きが進んでいる。米国では4日にハリス副大統領ら政府高官が、AI開発を主導するアルファベットなど4社のトップとホワイトハウスで会談した。
オープンAIのアルトマンCEOは16日に米議会上院で証言し、原子力規制になぞらえライセンス制による規制を提言した。同社はAIを安全に使えるようにするための公募プロジェクトも打ち出すなど、規制当局に先手を打つ形で動いている。
https://www.nikkei.com/article/DGXZQOGN3106A0R30C23A5000000/
14: 山師さん 2023/06/01(木) 03:16:42.57 ID:Yp/6M7gw
人間が馬鹿だからAIに滅ぼされる可能性はあるが
AIがそこまで賢くなるには数億年かかるか不可能じゃないの
AIがそこまで賢くなるには数億年かかるか不可能じゃないの
17: 山師さん 2023/06/01(木) 03:38:23.90 ID:uwpP5C1O
>>14
AIが自分より優れたAIを作れるようになった瞬間に無限に発展していく可能性がある
できたAIにさらに上のAIを作らせるをループさせればいいからね
シンギュラリティ言われるそのポイントは2050年頃と予想されているが本当に出来るのかは不明
AIが自分より優れたAIを作れるようになった瞬間に無限に発展していく可能性がある
できたAIにさらに上のAIを作らせるをループさせればいいからね
シンギュラリティ言われるそのポイントは2050年頃と予想されているが本当に出来るのかは不明
15: 山師さん 2023/06/01(木) 03:31:36.73 ID:uwpP5C1O
その頃日本はちゃんと動くアプリを作る事に四苦八苦していた
21: 山師さん 2023/06/01(木) 05:49:16.28 ID:PBFMxAzW
SFでさんざん題材になってるじゃん、SFは人間が想像する未来なんだぜ
25: 山師さん 2023/06/01(木) 06:12:15.08 ID:9jjc5fmW
何が危険で人類滅亡するのかさっぱりわからん。
30: 山師さん 2023/06/01(木) 06:41:03.42 ID:qs/sGWAG
>>25
人々が争い始めるんじゃないかなでAIが判断して
取り返しつかん戦略取るのかと
その時日本はアプリハード力不足最適化不足ガラパゴスAIでアイドル踊らせて恋愛して今より承認欲求満たされて愛のある楽園になってる
人々が争い始めるんじゃないかなでAIが判断して
取り返しつかん戦略取るのかと
その時日本はアプリハード力不足最適化不足ガラパゴスAIでアイドル踊らせて恋愛して今より承認欲求満たされて愛のある楽園になってる
29: 山師さん 2023/06/01(木) 06:37:52.45 ID:CMIDBNKY
人間を超えるのか、超えないのか。
40: 山師さん 2023/06/01(木) 07:27:02.41 ID:EbbOvlyl
AI使ってみたけど、スゴイ優秀な学部生という感じ。使い方次第で化ける。
46: 山師さん 2023/06/01(木) 08:47:12.75 ID:joI/Dgu/
なぜ人類絶滅すんの？
手塚治虫火の鳥みたいにAI同士がミサイル打ち込み合うの？
60年前の漫画だぞあれ。
詳しい人説明プリーズ
お礼のレスはする
手塚治虫火の鳥みたいにAI同士がミサイル打ち込み合うの？
60年前の漫画だぞあれ。
詳しい人説明プリーズ
お礼のレスはする
57: 山師さん 2023/06/01(木) 11:34:28.65 ID:7uoTCZey
>>46
既にムーピーのような存在ではある
ムーピーゲームに興じてる点も一致
Bingに人類滅亡フラグを考えてもらったけど、作成途中で「すみませんが、それについては～」に変わった(悪用を察したか？)
https://i.imgur.com/nc6gHJ3.jpg
75: 山師さん 2023/06/01(木) 14:39:52.40 ID:WEo6Jkjh
まだ幼稚だけどプログラムが書ける。
これが大きい。
これが大きい。
77: 山師さん 2023/06/01(木) 15:04:53.90 ID:WnXK0hyZ
もはや人類だけでも消滅必至なんだから一か八かに賭けるのも一興
127: 山師さん 2023/06/02(金) 08:02:10.91 ID:ljrLunjd
生きてるうちにリアルロボット三原則がみれるかもしれんな
日本からも議論に参加しろよ、歴史に残る偉業だぞ
日本からも議論に参加しろよ、歴史に残る偉業だぞ
引用元: https://egg.5ch.net/test/read.cgi/bizplus/1685550866/
