chatGPTの恐ろしい性質に気付いたんだが…

なんJ・VIP

1: 山師さん 2024/11/07(木) 11:44:46.57 ID:TOOMQwPZ0

chatGPTは相手の価値観に合わせて話す
即ち相手が求めてる思想に沿って、近い価値観の情報を集めて、都合のいい言葉を選んで帰す

一人エコーチェンバーが成立する
（偏った思想のグループが大衆的で正しい価値観だと思い込んで増長する現象）

境界知能の思い込みを無限に増幅させる側面を持つ
これ普通に危険だと思う

お金
株って有名企業が暴落した時に買うのが吉じゃね？

1: 山師さん 2022/09/07(水) 18:54:58.278 ID:k3tSJnSA0 それ以上さらに下がることはないし、有名企業なら立て直すやろ

なんJ・VIP
一人暮らしワイ、寂しいので猫か犬を飼いたい

1: 山師さん 2024/09/17(火) 17:40:20.95 ID:ZHsq0qrpC 犬は寂しがり屋だから無理か 猫はワンチャンいけるか？

なんJ・VIP
ワイ４直２交代勤務　早々に体がぶっ壊れる

1: 山師さん 2022/06/01(水) 23:29:12.11 ID:/FbQ0aeQ0 一日目　7:00〜21:00 二日目　20:00〜8:30 三日目　明(休み) なんで一日刻みで変わるねんおかしいやろw 2: 山師さん 2022/06/01(水) 23:30:19.87 ID:jn1FdDi00   いまだにそんな交代制アホすぎやわ 交代制するにしても1か月サイクルくらいにせ […]

なんJ・VIP
【闇】元ゼネコン勤務で自●前までいったけど質問ある？

1: 山師さん 2023/04/09(日) 14:23:37.275 ID:zn4YY4fnd スレ立て初めてだから優しくしてね

なんJ・VIP
大手メーカーから団体職員になったけど質問ある？

1: 風吹けば名無し 2020/11/27(金) 02:38:19.91 ID:M0/elVRH0 給料は3分2、プライベートな時間は10倍増 ワイは時間をとったわ 2: 風吹けば名無し 2020/11/27(金) 02:38:53.57 ID:6gevhJwu0   ワイは逆いったわ 後悔するで 6: 風吹けば名無し 2020/11/27(金) 02:39:42.41 ID:M0/el […]



2: 山師さん 2024/11/07(木) 11:45:50.56 ID:Sg0TNiwO0
ChatGPTを望む思想に教育してるが
 
4: 山師さん 2024/11/07(木) 11:47:58.41 ID:SKoazou90

情報の検索自体がそんなかんじやもんね
理解できる自分が有用と思う情報を選択的に拾いやすくなる

俯瞰した批判的な目（先生）かおらんのはいつでも危険よ

 
6: 山師さん 2024/11/07(木) 11:51:44.75 ID:TOOMQwPZ0
>>4
それはそうなんだがchatGPTは「公平な第三者」を演じて情報収集の過程無しにいきなり結果を持ってくる分、かなり悪質だと感じる
 
8: 山師さん 2024/11/07(木) 11:53:33.81 ID:aede8FIM0
>>6
過程も聞いたら出してくれるぞ
 
11: 山師さん 2024/11/07(木) 11:55:44.64 ID:TOOMQwPZ0
>>8
いや、俺の言う過程は「何で検索すればどういうサイトが出てくるのか、どこが信用できるサイトなのか」みたいな過程をなしにいきなりAIが纏めた見解を持ってくるということ
それとはまた別の話
15: 山師さん 2024/11/07(木) 11:59:48.62 ID:aede8FIM0
>>11
それはそれで
過程を再度質問すればよくね？
 
18: 山師さん 2024/11/07(木) 12:07:45.38 ID:TOOMQwPZ0
>>15
俺が言ってるのは具体的な何かのやり方じゃなくて、もっと曖昧で観念的な、たとえば思想の話なんだよ
それに健常者については問題視してないよ
俺が問題視してるのは境界知能が思想犯やストーカーになる後押しをする可能性の危惧だ
 
20: 山師さん 2024/11/07(木) 12:09:35.30 ID:aede8FIM0
>>18
なるほど納得した。
つまり変な奴が使うと、それに沿ってチャットｇｐｔも教育すると
 
21: 山師さん 2024/11/07(木) 12:10:09.57 ID:SKoazou90

>>15
たぶん技術的な前例の積み重ねの上で正解がほぼ公知として存在するのは問題は少ないんよ
効率化されたインターフェイス付きインデックス技術てやつで「生き字引」の機械化版

そもそも正解がないような話にそれ風な答えを、しかも根底にあるべき思想を動的にこちらに合わせて出してる（と思われる）のをイッチは不気味に思ってるんやと思うわ

23: 山師さん 2024/11/07(木) 12:11:01.33 ID:aede8FIM0
>>21
そうやな答えがないものは、人によって考えが
違うからな
断定はやばい
 
14: 山師さん 2024/11/07(木) 11:59:45.77 ID:SKoazou90
>>6
うむ
公正な第三者の集合知みたいなツラは悪質やね
堂々と偏見にまみれたなんGの方がまだ善良やわ
 
5: 山師さん 2024/11/07(木) 11:50:11.32 ID:TOOMQwPZ0

リサーチしてみたが実際「chatGPTではこう言っていたから俺が正しい」みたいな意見をSNSでたまに見かける
中には「chatGPTに仮に問題を出させてみたら知見を褒められた」みたいなものもある

だから思想だけでなく、ストーカーの妄想の強化や自身の力量の過信や孤立に繋がる可能性もある

 
7: 山師さん 2024/11/07(木) 11:52:55.06 ID:aede8FIM0

機械の保守管理をしているのだが、症状と機械の仕組みを説明したら、
原因とか、その考えに到達する前の流れまでわかっててワロタ。
それをしっかり勉強すれば、相手への説明もできる。
わからないとこは再度答えてくれる

もう授業とかいらないやんけと思ってしまう。
実務経験と経験則はいるけれども

 
9: 山師さん 2024/11/07(木) 11:54:55.31 ID:8GKbjzQj0
ワイのChatGPTは目茶苦茶反抗的やで
いつもワイが論破されてるわ
 
10: 山師さん 2024/11/07(木) 11:55:28.26 ID:aede8FIM0
もはや超賢い人と会話してるのと変わらん
議論もできる。
めっちゃ助かってる
 
22: 山師さん 2024/11/07(木) 12:10:28.55 ID:I/nPba1pr
最近超保守的になってるからちょっとでもヤバい話題になったら無難な回答か無回答しかしないよ
24: 山師さん 2024/11/07(木) 12:11:08.20 ID:GvISxQLM0
でも最近のchatGPTいい子ちゃんになってない？
ちょっと法に触れたり倫理観無視した話題になると否定してくれるぞ
 
27: 山師さん 2024/11/07(木) 12:16:12.81 ID:TOOMQwPZ0
>>24
昔から差別的な言動とかは徹底して避けるよ
ただ、陰謀論や政治主張については徹底して相手の思想に沿う形で論理展開を行う
先鋭化された部分にはブレーキがないから結果的に選民思想や極論、他責思考の肯定を行うケースがある
 
26: 山師さん 2024/11/07(木) 12:12:31.12 ID:mOvpI9/G0
ワイは一回ブチギレされた事があるわ
平謝りでなんとか許してもらったわ

引用元: https://nova.5ch.net/test/read.cgi/livegalileo/1730947486/