AI生成コンテンツのループが危ない！研究者が警告

The Curse of Recursion: Training on Generated Data Makes Models Forget

Stable Diffusion revolutionised image creation from descriptive text. GPT-2, GPT-3(.5) and GPT-4 demonstrated astonishing performance across a variety of langua...

arxiv.org

AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。この問題を「AI生成コンテンツをAIが学習するループ」が引き起こしているということで「モデルの崩壊」が起きつつあるとの警告が発せられました。

記事への反応

AI生成コンテンツに危険性あるにゃ。

0013ウィズコロナの名無しさん2023/06/14(水) 08:16:44.43ID:1LP1vPVM0

>>1
「重大な欠陥が生まれている」って
具体的にはどんな重大な欠陥なんだよ？

0141ウィズコロナの名無しさん2023/06/14(水) 08:52:37.52ID:XSb5NfL70

>>1
セントサイモンの悲劇みたいな

0165ウィズコロナの名無しさん2023/06/14(水) 08:59:54.81ID:0bkt59qe0

>>1
人間による評価がなけれ、出力物が人間の理解できない物になるのは
AIの研究の初期からつきまとう命題なんだが

今更な話だな

0115ウィズコロナの名無しさん2023/06/14(水) 08:44:21.70ID:ZaEjBh0D0

>>1
近親交配みたいなものか。

0134ウィズコロナの名無しさん2023/06/14(水) 08:50:52.52ID:TS3ryJ7O0

>>115
わかりやすいなw

0006ウィズコロナの名無しさん2023/06/14(水) 08:14:23.93ID:pABlH01q0

つまり適当な事も言い続ければ事実になると？

0064ウィズコロナの名無しさん2023/06/14(水) 08:30:46.02ID:CPkAJHNd0

>>6
朝鮮モデルやな

0089ウィズコロナの名無しさん2023/06/14(水) 08:38:59.12ID:BAyzrzQ30

>>6
真偽を確認することなく、多数派見解を集約してるだけだしな。実際、映画の要約とかで結構間違った情報も拾ってくる。

0019ウィズコロナの名無しさん2023/06/14(水) 08:17:25.34ID:Dun8OrIT0

>>6
これな
ネットに渦巻く大陸側の歴史観が真実になりつつある
圧倒的に日本側の見方が少ない
これがchatGPT

0015ウィズコロナの名無しさん2023/06/14(水) 08:17:00.87ID:8HB3VTMz0

あれもAI　これもAI　たぶんAI　きっとAI

0026ウィズコロナの名無しさん2023/06/14(水) 08:19:24.01ID:kF+zbSjQ0

>>15
うま！え？うますぎん？

0151ウィズコロナの名無しさん2023/06/14(水) 08:55:08.07ID:oTbFz4Ti0

>>26
大して上手くないだろ。

0057ウィズコロナの名無しさん2023/06/14(水) 08:29:13.67ID:12OPz30r0

>>26
自演乙

0002ウィズコロナの名無しさん2023/06/14(水) 08:13:35.78ID:gyofENGL0

漫画太郎だけに絞って精神崩壊させたい

0090ウィズコロナの名無しさん2023/06/14(水) 08:39:06.75ID:N09OrmOJ0

>>2
全てのコマがうんこになりそう

0075ウィズコロナの名無しさん2023/06/14(水) 08:35:38.08ID:/mg4BjG10

>>2
蛭さんも入れて
まぁ絵と言うよりも言動の方を

0079ウィズコロナの名無しさん2023/06/14(水) 08:37:15.38ID:HRxMUp5T0

aiが自動で5ちゃんでレスする時代がくるのかな

0101ウィズコロナの名無しさん2023/06/14(水) 08:41:35.67ID:N09OrmOJ0

>>79
え、あなた人間なの？

0097ウィズコロナの名無しさん2023/06/14(水) 08:40:46.10ID:iC5petwr0

>>79
キノの旅でそれに近い話があったなw

引用元:https://asahi.5ch.net/test/read.cgi/newsplus/1686697933/-100