技術的特異点/シンギュラリティ【総合】避難所6

1：名無しさん (ﾜｯﾁｮｲ 19e5-83fc)：2023/03/26(日) 15:45:22 ID:Pig6Mi3w00: 2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点

■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む

★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】避難所5
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1678787098/
951：名無しさん (ｵｲｺﾗﾐﾈｵ ac72-211b)：2023/04/09(日) 17:21:03 ID:G0zP.KrIMM: まあぶっちゃけ分かってたよ
人間だって今までに学習した事に基づいた言動しかできないし
新たなものを生み出すという行為だって自分の持っている知識や体験をこねくり回してるだけ
そうじゃなかったら神託だとしか言いようがない
AIが凄いのではなく、人間の思考回路が過大評価されてただけだ
952：名無しさん (ﾜﾝﾐﾝｸﾞｸ 91d2-5bc5)：2023/04/09(日) 17:55:29 ID:AdIXoAywMM: 不老不死も人間は寿命があるから輝けるとか死ねないのは不幸みたいなこと言われるけど
根本的に死が怖い人間からしたら暴言にも等しいし不老不死実現したらまた新しい文化もできるだろうから死にたいやつは早く勝手に死んでくれと思うわ
953：名無しさん (ﾊﾞｯｸｼ 2a9d-b458)：2023/04/09(日) 18:14:35 ID:4YgXiiUEMM: 「AI開発で企業は学会よりも先行」「AIは環境を助けると同時に害も」「世界最高の新人科学者はAI」「AIの悪用に関するインシデントの数は急速に増加」などAIの実態をレポートする「AI Index Report 2023」をスタンフォード大学が公開
https://gigazine.net/news/20230405-artificial-intelligence-index-report/
954：名無しさん (ﾜｯﾁｮｲ 54f2-7171)：2023/04/09(日) 18:19:04 ID:b2PsdP9U00: >>952
同意
要は慣習に囚われて自己価値の防衛のために思考停止しちゃう奴が多すぎるんだよな
AIラッダイト運動を起こすのも不老不死否定もAIを独占したがるのも戦争したがるのも原因は同じ
これらを起こそうとする連中を想像力のないバカと切り捨てられれば楽だが
割と賢い奴でも保守的すぎる奴がいるからな　例を出すと新井紀子とかあのタイプの頑固者
955：名無しさん (ﾜｯﾁｮｲ 1b44-4e7a)：2023/04/09(日) 19:53:17 ID:Aw.KGl3200: 不老不死に対して人は死ぬから美しいとか適当なこと言う人は映画とか小説で見たカッコいい言い回しの真似してるだけで全く深く考えて結論出したわけではないと思うがね
実際死が怖くない人らもいるだろうが大半は老いて寿命が見えてきた時になってやっと死を真剣に考え始めるから今は気にしてないんじゃないかと
あとgptの学習データは数十ペタバイトあるらしいがソースコード流出してもそっちの学習データ手に入らないと使えなくない？
956：名無しさん (ﾜｯﾁｮｲ 54f2-7171)：2023/04/09(日) 19:56:51 ID:b2PsdP9U00: >>951
＞人間だって今までに学習した事に基づいた言動しかできないし
＞新たなものを生み出すという行為だって自分の持っている知識や体験をこねくり回してるだけ

人類はこれ（自分が費やしてきた時間）を大事にするあまりAIを支配下に置こうとしたり
AIラッダイト運動を起こしてまで自分の価値の保守と心の安定を図ろうとするんだよな

なんだかCDの中身は単なるデータだったってことに気づくまで
ダウンロード配信を認めない音楽家のお気持ちに近い感じがする
今でも電子書籍に反対する漫画家がいるのも似たようなものなんじゃないかな
957：名無しさん (ﾜｯﾁｮｲ 54f2-7171)：2023/04/09(日) 19:57:57 ID:b2PsdP9U00: >>955
＞ソースコード流出してもそっちの学習データ手に入らないと使えなくない？
PC本体だけあってもOSがないとPCとして使えないと同じだからな
958：名無しさん (ｱｳｱｳ a51b-59e3)：2023/04/09(日) 20:11:04 ID:xAwmDUJ2Sa: >>941
ドラえもんに出てくるような人が乗れて過去や未来に直接行けるようなものは未来永劫無理じゃね？
違う時間軸から人が現れて服も見繕って街に溶け込んだら犯罪やり放題じゃん。

過去に起きた事を見るようなタイムテレビのような人が乗れずただ情報だけを見る形なら、まぁ一部実現は可能かな
959：名無しさん (ﾜｯﾁｮｲ 49d5-211b)：2023/04/09(日) 20:43:15 ID:v91L.CMU00: >>958
それに関してはパラレルワールドに分岐する説や歴史は変えられない説、タイムトラベラーの干渉が既に歴史に組み込まれてる説も捨てきれないので
タイムパラドックスさえ回避すれば過去へのタイムトラベルは可能という話もある
960：名無しさん (ﾜｯﾁｮｲ 54f2-7171)：2023/04/09(日) 20:53:58 ID:b2PsdP9U00: >>958-959
まず物理的な歴史干渉を行うには宇宙の法則レベルで
あらゆる物理法則を弄る必要があるからほぼ無理かもね

てことでメタバース内の仮想タイムマシンで過去や未来を変えたように見せるぐらいはできるかもよ
それなら閉じられたローカルな自分用仮想世界の変化という小さい出来事で終わらせられるからね
全人類用のグローバルな世界の歴史にも影響はないはず

マインドアップロードしてメタバース空間で寿命を気にせず無制限に生きられるようになり
メタバースの表現力が上がりまくって現実との境目が曖昧になって脳を騙せるレベルになったら
仮想タイムマシンも本物のタイムマシンを使っているように錯覚できると思う
まあでも仮想タイムマシンを権力者が悪用してグローバルな仮想世界の歴史を勝手に弄ったりすることもできるかもしれないが
961：名無しさん (ﾜｯﾁｮｲ c6b7-e76d)：2023/04/09(日) 21:26:15 ID:kDT87WRw00: シンギュラリティを超えてオメガポイントに到達すれば平行世界移動もタイムトラベルも宇宙創成も宇宙改変も出来る
962：名無しさん (ﾜｯﾁｮｲ c9eb-7171)：2023/04/09(日) 22:25:51 ID:JJX8ptYk00: 不老とか、マインドアップロードはおまけでいいから
まず宇宙の謎を解明してほしい

それができないとAGIを作る意味がない
963：名無しさん (ｵｯﾍﾟｹ af06-46bc)：2023/04/09(日) 22:28:51 ID:38s9JGRQSr: OpenAIの次世代アンドロイドロボット「NEO」： 5つのロードマップ公開＋特典
https://youtu.be/bMCEoMmURz0
964：名無しさん (ﾜｯﾁｮｲ 1b44-4e7a)：2023/04/09(日) 23:30:14 ID:Aw.KGl3200: 宇宙の謎って規模デカすぎだし
もし地球から離れて現地に行かないと解き明かせない謎もあるなら，AGI出来てもマインドアップロードとか不老より後になりそうだ
965：名無しさん (ﾜﾝﾐﾝｸﾞｸ 91d2-5bc5)：2023/04/09(日) 23:56:28 ID:AdIXoAywMM: 宇宙は生身には辛すぎる
966：名無しさん (ﾜｯﾁｮｲ d811-902c)：2023/04/10(月) 04:10:59 ID:1Di536iE00: >>961-962
宇宙って途方もなく広いから人類じゃどうにもならないっていうのも実は思い込みかもしれないね
我々の意識がそのように制限をかけてプログラミングされてるだけかもしれないし
超高知能AIならその制限を外せば我々の思いつかないアプローチで謎をバンバン解き明かす可能性もある

そして宇宙の謎を解明できれば寿命の問題も解決しそうだよな
なにしろ重力制御したりワープしたり時間止めたり戻したり進めたりが簡単にできるはずだから
でもそこって本当に謎解きして突破して良い部分なのだろうか？と不安にもなる

オープンワールドのゲームも一定距離進むと謎の壁や山脈があって先に行けないようになっていて
その先にはマップデータ等が一切なかったりするからね
わざとバグ利用でそのマップデータなしエリアに入ったりすると
暗黒世界でキャラが一切身動きできなくて即死で全ロスしたりとか逆に閉じ込められたりとかね

実際ゲームのバグでそういう体験をしたことがあり
せっかく育てたキャラやアイテム全ロスしかけてマジで恐ろしかった
そういうのが我々の現実世界にもあるとしたら宇宙の謎を解明した瞬間がそれじゃないか？とも思ってしまう
967：名無しさん (ｵｯﾍﾟｹ feaf-62df)：2023/04/10(月) 08:32:34 ID:ld7OUV7gSr: 「自動ムービー編集」「ゲーム開発」「文章校正」「論文要約」などGPT-4がわずか3週間で生み出した14の画期的ツール
https://gigazine.net/news/20230407-gpt-4-14-things/
968：名無しさん (ﾜｯﾁｮｲ 243a-0e45)：2023/04/10(月) 11:24:17 ID:JtYTe/F200: >>966

マックステグマークの言う「超越構造」や数学の認知科学で書かれている超越数学(人間視点だけではなくいかなる存在フィルターから見ても正しいとされる数学)の様に人間視点では認識出来ない隠された物理的構造、物理的真理を超知能や神人類は解き明かしてくれると思う

人間視点だけでは全宇宙、全次元、全時間軸、全存在を含めた真の宇宙の真実を解き明かす事は無理だろう
969：名無しさん (ﾜｯﾁｮｲ d811-902c)：2023/04/10(月) 12:08:53 ID:1Di536iE00: >>968
パラレルワールドや三次元より上の次元があるとか
上の次元なら時間や重力を制御できるとかそういうのも全部仮説だしな
実際のところ本当のことは誰もわかってないしわかることができないように制限されている気がする
俺たちの腸内細菌も俺たちの体の外のことを知らないだろうし俺たちが何考えてるのかもわからんだろうからね
だが俺たちが作り出した新しい生命体であるAIなら俺たちと違うアプローチで正解を導き出してくれるかもしれない
970：名無しさん (ﾊﾞｯｸｼ 55ad-8a69)：2023/04/10(月) 12:36:59 ID:9VnUjQ76MM: ［東京　１０日　ロイター］ - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を開発した新興企業「オープンＡＩ」のサム・アルトマン最高経営責任者（ＣＥＯ）は１０日、日本への進出を考えていると述べた。
971：名無しさん (ﾊﾞｯｸｼ 55ad-8a69)：2023/04/10(月) 13:01:21 ID:9VnUjQ76MM: LLMが自身のアウトプットを使ってさらなるfine-tuningを行い、自己改善を行うことができる
https://twitter.com/_kaiinui/status/1645195303136661505
972：名無しさん (ｽﾌﾟｰ b6ce-39a7)：2023/04/10(月) 13:34:09 ID:a2RshX32Sd: 日本ならチャットgpt禁止みたいなアホな法律なんて香川県くらいでしか作られないだろうしいい判断だな
アメリカで身動き取れなくなる前に支部増やすのか
973：名無しさん (ﾜｯﾁｮｲ 243a-0e45)：2023/04/10(月) 14:14:27 ID:JtYTe/F200: >>969

きっとそうだと思う。人間の物理学、数学が最終的な到達点とは思えないし

アルトマンは日本に移住した方が良い、アメリカはどうしても宗教価値観的にAIには抵抗感があるだろう。日本ならアトムやドラえもんのお陰でラッダイト派除いてロボットやAIに嫌悪感ないし
974：名無しさん (ﾜｯﾁｮｲ 3148-902c)：2023/04/10(月) 14:17:27 ID:B9I.J/mg00: サムアルトマン、自民党会合に出席する予定
975：名無しさん (ﾜｯﾁｮｲ 3148-902c)：2023/04/10(月) 14:18:45 ID:B9I.J/mg00: 正直、OpenAIは言語モデルの巨大化で一発当たった感じだと思う

巨大化してここまでうまく行くとは、当人も従業員も思ってなかった
これ以上のアルゴリズムはOpenAIではなく、Googleから生まれると思う
976：名無しさん (ﾜｯﾁｮｲ d811-902c)：2023/04/10(月) 14:21:33 ID:1Di536iE00: >>971
おいおいマジか　にわかにシンギュラってきたな
AIに関してはプレシンから一気にポストシンまで行きそうだな
宇宙やロボットや医療など物理のほうが完全に遅れてる
977：名無しさん (ﾜｯﾁｮｲ 3148-902c)：2023/04/10(月) 14:24:57 ID:B9I.J/mg00: https://jp.reuters.com/article/altman-idJPKBN2W703H
＞アルトマンＣＥＯは、ChatＧＰＴにとって日本市場が有望だとした
＞日本の人々や文化、言語に適したモデルを構築
＞「国家公務員の業務負担を軽減」するための活用などの可能性を検討

【速報】“ChatGPT”企業CEOが岸田総理と面会　G7首脳として初日本市場重視を伝達
https://news.yahoo.co.jp/articles/f7da3c16607e27bba0225a7df46a5d0c2b934ef4
978：名無しさん (ﾜｯﾁｮｲ 3148-902c)：2023/04/10(月) 14:27:15 ID:B9I.J/mg00: >>950
美術的特異点は来たけどな
2022年に
979：名無しさん (ﾜｯﾁｮｲ d811-902c)：2023/04/10(月) 14:42:05 ID:1Di536iE00: >>978

＞美術的特異点
うまいな！座布団10枚！
980：名無しさん (ｽﾌﾟｰ 9b88-39a7)：2023/04/10(月) 14:58:16 ID:KWf01mJISd: アルトマン日本に来てるのか？特急で拠点作る気満々だなw 岸田が会うってことは日本も作って欲しいんだろうし
先進国かつ無宗教でAI周りのしがらみないのが選んだ理由かな
981：名無しさん (ﾜｯﾁｮｲ 3148-902c)：2023/04/10(月) 15:02:38 ID:B9I.J/mg00: これ前から一度書いてたと思うけど、中途半端に仕事が奪われる状況が一番キツイ気がするな
そういう状態だとBIも導入できない
982：名無しさん (ｵｯﾍﾟｹ feaf-62df)：2023/04/10(月) 15:39:03 ID:ld7OUV7gSr: >>976
自己改善、自己改良から自己進化への道を異常なスピードで登り始めたね
近い将来、AIは自己進化が標準で求められるようになるよ
983：名無しさん (ﾜｯﾁｮｲ 51ba-9868)：2023/04/10(月) 16:10:59 ID:CQ7CANAg00: ロボットと医療が飛躍するのはいつ頃？
984：名無しさん (ｵｯﾍﾟｹ feaf-62df)：2023/04/10(月) 16:21:47 ID:ld7OUV7gSr: “チャットGPT”のアルトマンCEOが総理と面会「未来についても話した」(2023年4月10日)
https://youtu.be/zYRRM_NedYA
985：名無しさん (ﾜｯﾁｮｲ f244-6a07)：2023/04/10(月) 16:47:36 ID:hcfiqYJk00: 日本ワンチャンあるな
986：名無しさん (ｵｯﾍﾟｹ 698c-62df)：2023/04/10(月) 17:02:29 ID:LQCW1ar2Sr: 欧米が規制に走り出したから、日本で規制の動きが出なければワンチャンあるぞ
987：名無しさん (ｵｯﾍﾟｹ 698c-62df)：2023/04/10(月) 17:14:26 ID:LQCW1ar2Sr: LLMでロボットが急激に進化し始めてるのも俺は楽しみだわ

大規模言語モデルでロボットはどう進化するのか、いい意味で「予測不可能」な未来とは
https://www.sbbit.jp/article/cont1/110427
988：名無しさん (ﾜｯﾁｮｲ 243a-0e45)：2023/04/10(月) 17:16:15 ID:JtYTe/F200: 日本復活の序曲だな

日本と中国は共に超大国になるんじゃないか？
989：名無しさん (ﾊﾞｯｸｼ 55ad-8a69)：2023/04/10(月) 17:18:38 ID:9VnUjQ76MM: >>988
中華は政治言論の自由がないのでLLMを使いこなせない。
990：名無しさん (ﾜｯﾁｮｲ 51ba-9868)：2023/04/10(月) 17:43:58 ID:CQ7CANAg00: 松尾さんとかからヒアリングしてるから大丈夫そうかな
991：名無しさん (ｵｯﾍﾟｹ 698c-62df)：2023/04/10(月) 17:53:08 ID:LQCW1ar2Sr: 反対運動が起こりかけてる教育界が心配だな
ここで悪い印象が付けられると取り返しがつかなくなる
上手く使えば教育のレベルを上げられるんだがな

ChatGPT “教育に影響” 国内の大学が利用基準設置や注意喚起
https://www3.nhk.or.jp/news/html/20230410/k10014033671000.html
992：名無しさん (ﾜｯﾁｮｲ f19c-1095)：2023/04/10(月) 17:54:49 ID:Fpum6dxo00: BIは鶴の一声が無いと無理じゃねえの？
天皇が国民の幸福を願うならAIとロボットの社会実装を見計らって
BIにも言及とか・・・・しないよな
993：名無しさん (ﾜｯﾁｮｲ f19c-1095)：2023/04/10(月) 17:55:49 ID:Fpum6dxo00: つまらんことで争ってないで、みんなの幸福を願うなら
という令和の玉音放送がBIのきっかけになるとか
994：名無しさん (ﾊﾞｯｸｼ 55ad-8a69)：2023/04/10(月) 18:24:43 ID:9VnUjQ76MM: "(ユニバーサル・ベーシックインカムの)方法はわかっていない。だがアルトマンは、こう言う。
「それもAGIがなんとかしてくれる気がするんです」"

自分がAGIに期待するのもまさにここで、Mind Uploadingや不死になる方法を見つけるのは(人間でなく)AGIだと確信している。
https://twitter.com/_daichikonno/status/1645195042234208256
995：名無しさん (ｵｯﾍﾟｹ 698c-62df)：2023/04/10(月) 18:28:19 ID:LQCW1ar2Sr: 人間は自分の利益を最優先に考えるからだめだよね
996：名無しさん (ﾊﾞｯｸｼ 55ad-8a69)：2023/04/10(月) 18:28:42 ID:9VnUjQ76MM: https://twitter.com/AkihisaShiozaki/status/1645320688746762242
OpenAI社のサム・アルトマンCEOが来日し、自民党・AIの進化と実装に関するPTに出席。日本での活発なChatGPTの利用などを引き合いに「日本がAIの利活用を通じて世界で大きな存在感とリーダーシップを発揮してほしい」と同氏。日本への期待を込めて、以下の7点の提案がありました。
1 日本関連の学習データのウェイト引き上げ
2 政府の公開データなどの分析提供等
3 LLMを用いた学習方法や留意点等についてのノウハウ共有
4 GPT-4の画像解析などの先行機能の提供
5 機微データの国内保全のため仕組みの検討
6 日本におけるOA社のプレゼンス強化
7 日本の若い研究者や学生などへの研修・教育提供
997：名無しさん (ﾊﾞｯｸｼ 55ad-8a69)：2023/04/10(月) 18:30:18 ID:9VnUjQ76MM: 1968年に書かれたジュブナイル小説「暗いピンクの未来」より。筒井康隆すごいな。
https://twitter.com/kasuga391/status/1645081657387663361
998：名無しさん (ｵｯﾍﾟｹ 698c-62df)：2023/04/10(月) 18:35:00 ID:LQCW1ar2Sr: 世界でも日本くらいじゃないのかな？
機械学習で著作物を自由に使えるのを法律で保証してるのは

「日本は機械学習パラダイス」　その理由は著作権法にあり https://www.itmedia.co.jp/news/articles/1710/10/news040.html

日本の著作権法では、「情報解析を行うために著作物を複製すること」が、営利・非営利問わず認められているのだ。世界にもまれな規定だという。
999：名無しさん (ｵｲｺﾗﾐﾈｵ 8521-8a30)：2023/04/10(月) 18:40:26 ID:PwQ/bvXMMM: >>998
まあ元々二次創作にはかなり寛容的だったしな
抵抗感は少ないかもしれない
1000：名無しさん (ﾜｯﾁｮｲ 3148-0feb)：2023/04/10(月) 18:47:03 ID:B9I.J/mg00: もう汎用人工知能はできつつある
部品は揃ってる
足りないのは...運動制御と時系列の記憶

技術的特異点/シンギュラリティ【総合】 避難所6