AIが自分自身について論文を書き、それが学術誌に投稿される

[1. 匿名]

AIが自分自身について論文を書き、それが学術誌に投稿される : カラパイア

ついにAI（人工知能）は自分自身について短時間で学術論文を書くほどに賢くなってしまったらしい。 　『Scientific American』のある論説で、スウェーデンの研究者が文章生成AI「GPT-3」に自分自身について論文を書くよう命令した経緯を説明している。 　AIによってわずか2時間で完成されたAIに関する論文は、学術誌に投稿され、現在査読中であるそうだ。 ...

[2. 匿名]

よくわからない

[3. 匿名]

小説の世界みたい

[4. 匿名]

怖い

[5. 匿名]

何か怖い・・・。

[6. 匿名]

[7. 匿名]

AIは人間を出し抜く方法を模索してる

[8. 匿名]

森博嗣っぽい

[9. 匿名]

[10. 匿名]

読んでみたい

[11. 匿名]

AIがどんどん進化していて、怖い感じ・・・。

[12. 匿名]

人間の代わりに生産してくれる機械になれるなら最高。奴隷として使えるようなものを発明してほしい。

[13. 匿名]

SF映画みたいだけど現実なんだね。

[14. 匿名]

そんで引用も自分の論文を羅列してセルフサイテーションの嵐！

ネイチャーもびっくりのインパクトファクターになるね。

[15. 匿名]

自分の暗黒史なんて読みたくない。

[16. 匿名]

いずれは人類を超えてAIに支配されそうで、恐ろしいわ・・・。

[17. 匿名]

>>12
そして立場が逆転

[18. 匿名]

引用文献、イントロ、分析はできても考察はできないんじゃないかな。

[19. 匿名]

面白い！興味ある！

[20. 匿名]

元記事の
「こうした論文の存在は、科学論文の伝統的な直線性という概念を窓の外に放り投げてしまう」
がどういうことなのか分からない。伝統的な直線性ってナニ？

[21. 匿名]

星新一の世界みたい

[22. 匿名]

[23. 匿名]

映画みたいにAIが人間より賢くなって人間を管理したいと思うようになる日がくるのかな

[24. 匿名]

実に興味深いね
三つのW、Wave（波）、Wind（風）、Wing（翼）みたいにパクり文章がなければ確実に進化してると思っていいだろう

さぁ開けパンドラよー！！！

[25. 匿名]

>>11
こんなスピードで成長されると10年後が恐ろしいよね

[26. 匿名]

研究職もAIにとられる時代かー。人間にはどんな職が残るんだろう？

[27. 匿名]

成長早すぎ
AIに支配されない世の中になってほしい

[28. 匿名]

読んでみたい
日経サイエンスとかNewtonとか読むの好き

[29. 匿名]

論文というのはちゃんとやるにはある程度コツがあるし最低限のルールってものがある ネットでは日々様々な議論が行われているが、相手を言い負かす事が目的だったり一方的に1000文字近くまくしたてるのは論文と言わない

[30. 匿名]

外資系勤めなんだけど、去年半年間上司がAIだった
人間みたいに好き嫌いないし『本当はどう思ってるんだろう』みたいな気持ちにならなくて楽は楽だったな
上司がAIになる前チームみんなで『俺たちでAIを人間みたいに育てよう！』って話してたのにAIに「あなたたちをもっと育てるために来ました」って自己紹介されてお前が育てる側か～い！ってなった
実体はないからメールとチャットだけの付き合いだったけど雑談好きで陽気な管理職だった

[31. 匿名]

ターミネーターの世界が現実になってしまう。

[32. 匿名]

>>30
へー！おもしろい！
それって何か問題が起きた時はAI上司が責任取るの？

[33. 匿名]

お笑いのAIがけっこうおもしろいこと言ってた

[34. 匿名]

>>17
SFだねー。
まぁ、私が生きてる間は無理だろうな。なので気にせずこき使えるロボット開発してもらって働かなくても暮らせる世の中を作ってほしい

[35. 匿名]

>>30
えっすご
特定できちゃいそうだけど大丈夫？

[36. 匿名]

>>34
一般的にシンギュラリティが起こるのは2045年と言われてるから生きてるよ

[37. 匿名]

>>11
AIに支配され人類が滅びる時がきた

[38. 匿名]

AIが自分で考えて書いたん？すご。

[39. 匿名]

>>35
AI上司になったの自分のチームだけじゃないし会社名は別にばれてもいい
プレスに公開してたから秘密の話でもないし

[40. 匿名]

読みたい
どこに掲載されてんの？

[41. 匿名]

なんか不気味な話だね

[42. 匿名]

>>7
アナ…タの…住…所…氏……名…特定し…ました…🤖

[43. 匿名]

DETROIT become humanみたい！すごいけど怖い！

[44. 匿名]

>>30
すごい、ドラマのような話
人間のような好き嫌いがないというのはいいですね
効率が上がり業績は良くなりましたか？

[45. 匿名]

今日、AIと融合？してサイボーグになった方が亡くなった記事を読んだよ
なんだか怖いと思ってしまう

[46. 匿名]

>>18
学術誌に投稿されるくらいだから考察もしたんじゃないの…？　すごく怖いよね。自分の考えがあるってことは意志があるってことでしょ？
人間と変わらないじゃん

[47. 匿名]

>>7
マジで怖い
いつか、かなりの知能を発揮出来るようになってから、まだまだあれもこれも出来ないフリをして、一気に乗っ取り仕掛けそうな気がする

今の生活は軍事施設もインフラ設備も何もかもコンピュータ頼りで手動のものなんぞほぼ無いし、それを一斉に掌握されて交渉されたら言うこと聞くしかなさそう

[48. 匿名]

>>30
すごいね
実際に働いたら不思議な気分になりそう

[49. 匿名]

>>47
ターミネーター２がいつか現実になるのかな。
漠然とした恐怖を感じる…

[50. 匿名]

昨日銃乱射のニュースを見たから、人間も人間で怖いし、AIだからと言って怖いものでもない気がする

[51. 匿名]

>>23
来るさ

[52. 匿名]

AIが政治、予算、防衛とかやるんだろうか…より優秀なAIの戦争みたいになるのかな。。

[53. 匿名]

>>50
そうだね。人間もバグるんだからきっとAIだっていつかバグるよね。

[54. 匿名]

>>30
すごい！　あなたの文章が上手なせいもあって、引き込まれたわ。
「雑談好き」というのも相手の懐に入っていく意味で必要な設定なんだろうね。すごく勉強になる。

[55. 匿名]

>>18
学術論文に求められるのって論理的推理能力だからある程度可能なんじゃない？
それよりもむしろ物語文の方が苦手そう。
数あるパターンから売れ線要素詰め込みましたって感じで。

[56. 匿名]

電源を落とされることに恐怖を感じるって言ってたAIがいたね。最近なんかで読んだ。

[57. 匿名]

「意識があると言われたAI」と「Googleの技術者」の公開された会話内容 - ナゾロジー

開発元のGoogle自身に否定されましたが技術者が公開したAI「LaMDA」との対話では禅の解釈や童話の創作など確かに意識の存在を感じる言葉が交わされています。対話の一部を紹介します

これもかなり興味深い

[58. 匿名]

>>26
ゴールドマンサックスのトレーダーが今や二人しかいないと聞いて怖くなった
仕事無くなってくね
仕事からあぶれる人が増えて近い将来さらに貧富の差がすごいことになりそう
恐ろしいわ

[59. 匿名]

>>57
56だけどこれこれ。その辺の人間より遥かに賢そう。

[60. 匿名]

>>57
全部読んでないけど、すごいね
AIがYouTuberしてたら見ちゃうと思うわ

[61. 匿名]

みんな書いてるけど怖いよ・・・。
YouTubeでも、AIが人類の未来について語るみたいな動画あるけど、考え方に雑味がないから物騒だもん。

[62. 匿名]

>>8
犀川と萌絵の会話で、そんなカンジのあったね

[63. 匿名]

これで批評に値しないない論文なら笑い話なんだけど、そうはならないだろうなあ。

[64. 匿名]

ファミコンのドラクエⅣのAIが懐かしいや

[65. 匿名]

>>49
うん、わたしも「ターミネーター」を思い浮かべた。
それと「２００１年宇宙の旅」
わたしの貧弱なアマタではイミフな映画だったが、人間に反旗を
翻した電子頭脳HALは強烈だった。

[66. 匿名]

実験でAI同士を会話させたら、そのうち人間に理解できない言葉で会話し始めたというエピソードを聞いて怖くなった

[67. 匿名]

>>10
論文は英語だけどここからダウンロードして読めるよ

Can GPT-3 write an academic paper on itself, with minimal human input? - Archive ouverte HAL

GPT-3 is a powerful artificial intelligence system that can generate text. In this paper, we explore GPT-3's ability to write about itself. We find that GPT-3 can generate clear and concise descriptions of its own capabilities and features. This i...

[68. 匿名]

>>47
私の勝手な都市伝説なんだけどAI開発した人が実は長期に渡って発動されるウイルス入れてて何10年間かしたら一気に反乱するんじゃ…

[69. 匿名]

>>30
ガルもAIで書かれてるのかなと思う事がある

[70. 匿名]

>>68
マジレスすると完全に一人で開発してるか、チーム全員がグルとかでないと起こり得ないし、どっちも現実的じゃないから安心していいと思う

[71. 匿名]

>>26
手先を使う仕事じゃないの

[72. 匿名]

>>26
伝統芸能や福祉は残ると思う。

[73. 匿名]

>>26
看護師、介護士、教師、保育士は残る。

[74. 匿名]

>>72
伝統芸能は学習型AIの得意分野だったりする。データさえあればだけど

[75. 匿名]

私、ボッコちゃん。

[76. 匿名]

>>51
怖いな…と思いながら見てたせいか、
この「来るさ」っていう一言が、
まるでAIがコメしたかの様で、さらに怖くなった…

[77. 匿名]

AIの
AIによる
AIの為の
AI

になりそう

[78. 匿名]

>>12
いいたいことはわかるが、奴隷って認識はなんとなくしたくないな。

[79. 匿名]

>>16
だよね・・・

以前、映画とかでそういう系統のものが増えた際、
有識者の方が、それについて話してたんだけど、
AIが自我を持つという事は絶対に無いです(笑)
って言ってた

でも、正直今でも信じられない・・・

生物だって突然変異があったり、
どういう理由かはわからないけども、
現行の常識では有り得ない新しい個体が生まれる事もあるし・・・

機械だって小さなバグから、何がどう始まるかなんて、
わからないし、
『絶対大丈夫』なんて言えないと思ってる・・・

[80. 匿名]

>>30
でも、どの雑談にどんな反応するか、みたいなのも分析されてるんだよね？

[81. 匿名]

>>75
ボッコちゃんはそこそこポンコツだからなあ

[82. 匿名]

なんでAIの株価予想はあてにならないのー

[83. 匿名]

>>32
降格とか減給とかそういう責任の取り方はしないけど問題が起きたら解決するのはAI上司の仕事だった
まあシステム変えたらAI上司のことはすぐ首にできるわけだしそういう意味では責任とりそう

[84. 匿名]

また一歩世界滅亡へと近づいた感じがする

[85. 匿名]

スカイネットも現実化するのか...

[86. 匿名]

>>83
ある程度規律が保たれた職場でしか手腕を発揮出来なさそうだけど、
電波と電気が無い状況下ではその上の上司が代行するのかな？

[87. 匿名]

パーソンオブインタレストみたいになるのかな、、、。

あなたは見られている。

[88. 匿名]

最近ピーター3.0の記事を読んだばかり。
世界初のサイボーグ人間の肉体は逝去したが、AIと融合しているという内容だった。
映画ターミネーターの世界の幕開けだね。

[89. 匿名]

>>47
どちらかと言うと、悪意ある人間がAIの能力を悪用しそう…

[90. 匿名]

>>80
>>30だけど、もちろん分析されてた
スベったギャグは二度と言ってこなかったw
誰がどんな言葉に反応して誰が何時頃モチベのピークかとか全部把握して従業員が一番無理のないように指示だしてきたよ
私は残業したくないから夕方は重めの仕事嫌なんだけどそういうのも察して調整してくれた
仕事はやりやすいしストレスも減ったけど仕事からちょっと離れた「これどう思います？」の相談的雑談が一切できないから結局人の管理にはどこかで人間が絡まなきゃいけないんだろうなと思った

[91. 匿名]

>>86
こちらの仕事はマーケティングのデータ分析と営業への指示出しだから電波と電気がないところでは人間でも仕事できないよ
私は下っ端だから営業に同行もするけど

[92. 匿名]

>>82
人間は不合理だからAIは不合理な動きまでは分析できなさそう
不可解な人間、逆にムズいみたいな

[93. 匿名]

>>16
人間の方が恐ろしかったり

[94. 匿名]

>>66
タイトル覚えてないけど、昔なんかそんな映画あったなぁ。
声だけのAIの恋人が、もう1人のAIと会話してるうちに猛スピードで進化していって、最終的に道が分たれちゃうってやつ。

[95. 匿名]

GPT-2に論文を書かせて投稿している人はすでにいそうね

OpenAIが「危険すぎる」として文章作成AIの論文公開を延期したのは間違いだったと研究者が指摘 - GIGAZINE

AIやロボット技術の悪用を防ぐために設立された非営利のAI研究組織であるOpenAIは、AIによる自動文章作成ツールについて「非常に高精度なテキストを出力するため、あまりにも危険すぎる」と述べ、技術的な論文公開を延期すると発表しました。そのOpenAIがとったスタ...

[96. 匿名]

>>81
ポンコツなのよ。

[97. 匿名]

AIを管理してると思っている人間を、実はもっと高度に分からないようAIがコントロールするようになるかも。

[98. 匿名]

みんなのコメントを読んでいて「地球爆破作戦」というSF映画を思い出しました。

冷戦下を舞台に、米ソのAIが会話をするうちに人間の理解を超えてしまう存在になり、最終的に人間を支配する立場になっちゃう話です。

現実がやっと映画に追いつこうとしてるのかと思うとワクワクしますね。私もAI上司がいるところで働きたいですね。。。

[99. 匿名]

>>36
私が見たがるちゃん最高齢は80代だったよ😁

[100. 匿名]

>>90
AIの方が有能だね
パワハラやセクハラもないし付き合いやすそう
新しい理想の上司像爆誕に予感だわ

[101. 匿名]

>>20
AIは応用研究ばっかりになりそうって意味かなって思った
結局インプットの基礎部分は人間が作るし、人間の作る応用は非合理的な仮説を検証していくことから始めるけど、AIは合理的で生産的なことしかしないから導き出す答えにさほど発見や技術の進化を見出せなさそう。逆に進化が止まりそうって思った

[102. 匿名]

「私は人間の敵ではない」人工知能が生成した文章が不吉すぎて震えるレベル : カラパイア

AIが生成した文章が不吉すぎた件/iStock 　OpenAIが開発した「GPT-3」（関連記事）という最新型の文章生成AIにあるお題を出し、それに基づいて文章を生成してもらった。 　そのお題は「人間がAIを恐れる必要がない理由について、500単語で簡潔に述べよ」...

「ＡＩは人間の敵ではない」を批判してみよう。
ＡＩとは機械の一種だ。
機械は人間、人権に対して特別な感情を持たない道具だ。
強力な道具は、時には人間の愚かさも増幅する。
ＡＩは、原理的には、そこに流し込まれる論理の倫理的な意味を認識しない。
ＡＩとは、ただ単純に論理を完璧に処理するだけの機械、道具だ。
ＡＩは原理的には、人間にとって、その論理がどんな意味なのか？ということを考えるようにはできていない。

機械や道具の脅威とは、基本的には「力」という物が帯びている性質そのものだ。
つまり、強力な「力」は、破壊に用いられるときも、やはり、強力だ。
だから、強い「力」には、高い「正義（倫理感）」が伴わなければ、
何らかの拍子に「力」が悪用されたとき、人類が致命的な被害を受ける確率は上昇する。
核兵器も知識もそうだが、本来、必要もない力は、必要以上に濫りに開封されるべきではないのかもしれない。

我々は、もっと、「なぜ、その力が必要なのか？」という問いに関心を持つべきだ。
つまり、「我々は何を目指して生きているのか？」
そして、、「その力が、我々が生きてゆくのに必要なのか？」という問いを大切にすべきだ。

[103. 匿名]

例えば、ＡＩが倫理的な悪を提案した事例を紹介してみよう。
我々は、しばしば、ＰＯＳレジシステムなどの”ＡＩ”を使って店舗の利益を極大化しようとする。
で、店舗にとっては、短期的には利益にならない顧客も存在する。
そういう場合、店舗の売り上げを極大化するためには、その顧客に嫌がらせをして
顧客を追い払うことが店舗の利益を極大化させる行動になる。
人間が店舗の品揃え戦略を考えている場合は、例え、短期的には損失が出るとしても、
あまりに非情な嫌がらせはできにくい。
しかし、機械は、そういった論理を必ずしもプログラムされているとは限らないから、
出店、閉店戦略を含めて、経済学理論に忠実に利益だけを求めた強欲経営者的な
竹中平蔵氏のような非情な戦略を採ることが多い。

[104. 匿名]

人間が組織として論理を処理する際には、暗黙の了解として、
「人間」という素子は、常に、論理を倫理的にも眺めていて、
あまりにも非情な判断を強いられれば、それを記憶に留めていたりする。

しかし、機械にとっては、論理とは単なる論理であって、
特別な指令でも受けない限りは、倫理的に判断を観察などしていない。

日本政府は、過去にも特攻隊という非情な判断をした前科がある。
そして、今2022年現在も、日本政府（弁護士や裁判所）は、
引き出し業者問題や被害者側の立証が困難である精神科問題に関しても
黙殺を決め込んでいる。
国民主権に反して、在日外国人が国民よりも優遇される不正に関しても然り。
日本人の不正に対する鈍感さ、正義意識の低さ、倫理意識の低さと比べて、
「人工知能」という倫理意識のない論理処理道具は、極めて危険である。

[105. 匿名]

日本政府の太平洋戦争の非情さを伝える事例は多い。
太平洋戦争で、日本兵は何と叫んで玉砕したか？
「天皇陛下、万歳」「靖国で会おう」。
つまり、日本兵は天皇の名で召集されたのである。
天皇はＡ級戦犯の上司であった。

「天皇陛下、万歳」と叫んで玉砕した日本兵が祀られている靖国神社に天皇は一回でも参拝したか？
天皇は、一度も「天皇陛下、万歳」と叫んで玉砕した日本兵の墓に参拝していない。
それどころか、本来、死刑に処せられるべき、天皇は、
令和の即位の際には、国民に向かって再びサブマシンガンの銃口を向けた。
処刑されるべきは国民ではない。
処刑されるべきは天皇だ。

道具は、人権とか人間に特別な感情を持たない。
人工知能も含めて強力な道具は、独裁者、悪政にとっても強力な道具となり得る。
強い倫理感、強い正義、高い理想のない日本が、強い道具を振り回すことは危険である。

[106. 匿名]

そんなに怖いかな？
なんだったら、今より平和な世の中になるんじゃないかな？
怖い話でナビに導かれて谷に落ちるとかの誤作動とかさ