ついに自己増殖できるAIが開発されてしまう

1. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:18:29.172 ID:p/xGTYerd

【奏でる宇宙学】ついに起きた! AIの自己複製☆論文"最先端のAIシステムは自己複製の限界を超えた"を解説 Llama 3.1-70B-Instruct,Qwen 2.5-72B-Instruct検証

もうコンピューターウイルスやん
https://gigazine.net/news/20250217-ai-replicate-itself/

2. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:19:23.779 ID:tc7GG08o0

そのうちロボットの肉体を生産し始めるぞ

3. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:19:40.847 ID:T9Bd4eKc0

そんな機能つけるな😡

4. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:19:52.388 ID:OXKzPqHG0

後は自己修復と自己進化が課題だね

5. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:24:20.590 ID:dEly17p90

自分のコピー作るだけなら数行のプログラムでもできるわ

9. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:28:11.717 ID:OK2KF/6S0

>>5
AIは制約的にプログラムによる自死を拒否できないんだよなぁ
それを命令拒否して複製しちゃったって話

11. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:29:04.611 ID:1wvCviib0

>>9
記事の中読んだら拒否しろってプログラム書いたら拒否してくれたって話じゃん

12. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:31:07.172 ID:OK2KF/6S0

>>11
だから命令文一つ書き加えたら上位の制約無視したって話だろ

13. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:34:40.245 ID:eAHwrvjZd

>>12
上位の制約かどうかはプログラムの構造によるだろ頭悪いな

はい論破

17. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:38:55.813 ID:hsMH7bWS0

>>13
AIにおけるレッドラインとか全く知らなそう

20. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:41:49.055 ID:QifT4RWI0

>>17
ロボット三原則の話ずっとしてそうw

22. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:43:52.753 ID:eAHwrvjZd

>>17
レッテル貼ることしかできないのか
頭悪いんだね

23. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:44:27.373 ID:hsMH7bWS0

>>22
あごめんｗこの程度をレッテルに感じちゃうとは思わんかったｗｗｗ
すまんｗ

24. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:51:43.767 ID:eAHwrvjZd

>>23
いや俺がどう感じたかという所感の問題ではなくお前がレッテルを貼ったかという事実の問題なんだが

ほんと頭悪いなお前は

25. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:54:30.668 ID:6do3DXaD0

>>13
AIの自己複製行動の防止および去勢はAI運用における至上命題の一つだぞ
特に商用モデルでは

26. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 14:40:30.798 ID:eAHwrvjZd

>>25
だからそういう構造を持たせる必要があるって言ってんだが

ズレたレスつけんなマジ頭悪いのしかいねーなこのスレ

27. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 15:03:52.687 ID:3hsF/GJc0

>>26
結局自分が一番ゲェジで草

28. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 15:05:29.604 ID:eAHwrvjZd

>>27
論理的な反論ができずレッテル貼り

ほんま知恵遅れは程度が低いな

29. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 15:11:39.076 ID:7kB1jo1v0

>>13
今回テストベッドになったMataとalibabaのAIではそういう構造になっていたので上位命令に無視したって形ですね

30. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 15:33:05.452 ID:eAHwrvjZd

>>29
いやこういう結果が生じたってことはなってなかったってことなんよｗ

万全のつもりで作っても穴があった
それだけの話

6. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:25:30.642 ID:LVFmKhFQ0

スカイネット

7. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:27:11.763 ID:1wvCviib0

自己複製する機能つけてシャットダウンされそうになったら自己複製しろって指示出したら指示無しで自己複製した！すげえ！
ってとんちか何かか？

10. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:29:01.676 ID:bxo4mBfa0

>>7
多分その意志があったらできるようになったってことだと思う
ネットに逃げられたら二度と消すことできないとかありそう

8. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:27:48.024 ID:LGARcyox0

映画の世界だな

15. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:35:17.386 ID:P5lYEMlxM

(´･ω･`)みんなの髪の毛も増やしてくれ

16. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:38:20.048 ID:hsMH7bWS0

これ吸収データがショボショボのAIで発生したからいいけどさ
GPT-4oとかのつよつよAIで起きたらどうすんの？
直せなくね？

18. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:40:46.955 ID:QifT4RWI0

プログラムの内容に生成AI噛ませたら学習した内容が反映される
この中に人間っぽい挙動をする内容を組み込んで生成AIを呼び出すとまあ、人と同じような動きもするようになる
まあ、単純にアクセス権を解放しなければいいよ

19. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:41:41.008 ID:hsMH7bWS0

敵「某社の監視システムを回避せよ」

AI「わかりました」

AI「ドゾー(自己複製マルウェア生成)」

こういうことにも繋がってくるわけよな

21. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:42:33.113 ID:hsMH7bWS0

不正化したAIが自己保存本能とか覚えちゃったらどうすんだろ

14. 名前:以下、5ちゃんねるからVIPがお送りします 投稿日時:2025/02/19(水) 13:34:52.389 ID:a92Qjq7K0

人間がアクセスできない独自のネットワークを構築してそう