chatGPTの恐ろしい性質に気付いたんだが…

なんJ・VIP

1: 山師さん 2024/11/07(木) 11:44:46.57 ID:TOOMQwPZ0

chatGPTは相手の価値観に合わせて話す
即ち相手が求めてる思想に沿って、近い価値観の情報を集めて、都合のいい言葉を選んで帰す

一人エコーチェンバーが成立する
（偏った思想のグループが大衆的で正しい価値観だと思い込んで増長する現象）

境界知能の思い込みを無限に増幅させる側面を持つ
これ普通に危険だと思う

お金

株取引って結局なんなの？

1: 山師さん 2023/01/25(水) 03:32:49.996 ID:1rSEPsqup 株って買っても保有してることにならないんだろ？つまりマジで茶番じゃん

ETF・投資信託

投資信託を始めたいんだが「全世界株式(オールカントリー)」か「全世界株式(除く日本)」で迷う

1: 山師さん 2023/02/24(金) 02:08:06.191 ID:2ZBLRJutr お前らどっちにしてる？

なんJ・VIP

おれ！本日付で会社クビになる！！

1: 山師さん 2023/01/30(月) 20:34:38.553 ID:NiYtyZt00 お祝いに家焼肉するわ

なんJ・VIP

【社会勉強】タクシー運転手だけど初めて無賃乗車された

1: 山師さん 2022/10/14(金) 05:54:06.143 ID:3O5GwOcD0 2時間タダ働きですよやる気なくなる

お金

貧乏人「投資で一発逆転だ」←これ

1: 山師さん 2021/09/24(金) 10:33:17.67 ID:NBvGG6gM0 こういう幻想もってるやつ多いよな正直アホだと思うわ 2: 山師さん 2021/09/24(金) 10:33:44.69 ID:hrNVDyqo0 ワイは宝くじで一発逆転しようと思ってるけど 5: 山師さん 2021/09/24(金) 10:34:51.99 ID:6KVk6t1h0 &nb […]

2: 山師さん 2024/11/07(木) 11:45:50.56 ID:Sg0TNiwO0

ChatGPTを望む思想に教育してるが

4: 山師さん 2024/11/07(木) 11:47:58.41 ID:SKoazou90

情報の検索自体がそんなかんじやもんね
理解できる自分が有用と思う情報を選択的に拾いやすくなる

俯瞰した批判的な目（先生）かおらんのはいつでも危険よ

6: 山師さん 2024/11/07(木) 11:51:44.75 ID:TOOMQwPZ0

>>4
それはそうなんだがchatGPTは「公平な第三者」を演じて情報収集の過程無しにいきなり結果を持ってくる分、かなり悪質だと感じる

8: 山師さん 2024/11/07(木) 11:53:33.81 ID:aede8FIM0

>>6
過程も聞いたら出してくれるぞ

11: 山師さん 2024/11/07(木) 11:55:44.64 ID:TOOMQwPZ0

>>8
いや、俺の言う過程は「何で検索すればどういうサイトが出てくるのか、どこが信用できるサイトなのか」みたいな過程をなしにいきなりAIが纏めた見解を持ってくるということ
それとはまた別の話

15: 山師さん 2024/11/07(木) 11:59:48.62 ID:aede8FIM0

>>11
それはそれで
過程を再度質問すればよくね？

18: 山師さん 2024/11/07(木) 12:07:45.38 ID:TOOMQwPZ0

>>15
俺が言ってるのは具体的な何かのやり方じゃなくて、もっと曖昧で観念的な、たとえば思想の話なんだよ
それに健常者については問題視してないよ
俺が問題視してるのは境界知能が思想犯やストーカーになる後押しをする可能性の危惧だ

20: 山師さん 2024/11/07(木) 12:09:35.30 ID:aede8FIM0

>>18
なるほど納得した。
つまり変な奴が使うと、それに沿ってチャットｇｐｔも教育すると

21: 山師さん 2024/11/07(木) 12:10:09.57 ID:SKoazou90

>>15
たぶん技術的な前例の積み重ねの上で正解がほぼ公知として存在するのは問題は少ないんよ
効率化されたインターフェイス付きインデックス技術てやつで「生き字引」の機械化版

そもそも正解がないような話にそれ風な答えを、しかも根底にあるべき思想を動的にこちらに合わせて出してる（と思われる）のをイッチは不気味に思ってるんやと思うわ

23: 山師さん 2024/11/07(木) 12:11:01.33 ID:aede8FIM0

>>21
そうやな答えがないものは、人によって考えが
違うからな
断定はやばい

14: 山師さん 2024/11/07(木) 11:59:45.77 ID:SKoazou90

>>6
うむ
公正な第三者の集合知みたいなツラは悪質やね
堂々と偏見にまみれたなんGの方がまだ善良やわ

5: 山師さん 2024/11/07(木) 11:50:11.32 ID:TOOMQwPZ0

リサーチしてみたが実際「chatGPTではこう言っていたから俺が正しい」みたいな意見をSNSでたまに見かける
中には「chatGPTに仮に問題を出させてみたら知見を褒められた」みたいなものもある

だから思想だけでなく、ストーカーの妄想の強化や自身の力量の過信や孤立に繋がる可能性もある

7: 山師さん 2024/11/07(木) 11:52:55.06 ID:aede8FIM0

機械の保守管理をしているのだが、症状と機械の仕組みを説明したら、
原因とか、その考えに到達する前の流れまでわかっててワロタ。
それをしっかり勉強すれば、相手への説明もできる。
わからないとこは再度答えてくれる

もう授業とかいらないやんけと思ってしまう。
実務経験と経験則はいるけれども

9: 山師さん 2024/11/07(木) 11:54:55.31 ID:8GKbjzQj0

ワイのChatGPTは目茶苦茶反抗的やで
いつもワイが論破されてるわ

10: 山師さん 2024/11/07(木) 11:55:28.26 ID:aede8FIM0

もはや超賢い人と会話してるのと変わらん
議論もできる。
めっちゃ助かってる