レス数が1スレッドの最大レス数(1000件)を超えています。残念ながら投稿することができません。
技術的特異点/シンギュラリティ【総合】避難所17
-
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む
★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9
※前スレ
技術的特異点/シンギュラリティ【総合】避難所15
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1697935969/
技術的特異点/シンギュラリティ【総合】避難所16
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1703327615/
※関連スレ
不老不死（不老長寿）を目指すスレ 避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/
次スレは>>950が立てること 立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスするのもマナー違反
未来技術板のURLは書かないし、あちらから誘導もしないこと
-
>>172
なぜ公開したのかは詳しくしらないが、低パラメータ版を段階的に公開したり、強化学習でファインチューニングしたりして回答を誘導して倫理的にもOKだと感じたからもう公開しても安全だと判断したんじゃないか？推測だけど
-
>>170
今の半導体を見ると、十分に性能が伸びてる
気づかないうちにシリコンから勝手に変わってるそうな気もする
あと、体感だけど生成AIをさせると、確実に世代間の違いが分かるレベル
マルチ性能活用前提だから今更シングルに拘る意味を感じないかな
プロDIYの人がやればどうかと思ってね
少なくとも以前はVRAM安いからそれを買ってDIYで取り付ける職人とかいたし
-
>>173-174
公式には言ってはいないけど、
OpenAIの汎用化は過学習の手前で学習を止めているってこと？
仮に学習を際限なくしてもグロッキングは引き起こすことは出来ないの？
あれだけ派手に発表して注目されているわけだし、出来ないなら出来ないでOpenAIから何か発表がありそうじゃない？
-
>>176
> 今の半導体を見ると、十分に性能が伸びてる
伸びてない。ここ数年はほとんど変わってない。コアが増えたり減ったりしてマルチ性能が上がってるだけ
Core iシリーズ終了してリブランディングしたのも性能向上してないのを誤魔化すためでは？
> 気づかないうちにシリコンから勝手に変わってるそうな気もする
莫大に研究費用注ぎ込んで数十年研究してようやく実用化するくらい遠い。
> あと、体感だけど生成AIをさせると、確実に世代間の違いが分かるレベル
GPUの性能は変わってないけどテンサーコアとかの世代は上がってる
> マルチ性能活用前提だから今更シングルに拘る意味を感じないかな
普段使いにシングルが関わってるという話なんだが…
>
> プロDIYの人がやればどうかと思ってね
> 少なくとも以前はVRAM安いからそれを買ってDIYで取り付ける職人とかいたし
俺はプロDIY職人じゃないんだが？
>>177
168 名無しさん (ｽﾌﾟｰ d5b7-ff60) sage 2024/02/15(木) 23:53:14 ID:jg34FyqkSd
>>162
あと、その汎化は小規模なアルゴリズムにしか現れないらしい。
大規模言語モデルでは見られない。
>研究チームはグロッキングを分析するために小規模なAIモデルを利用していますが、大規模なモデルの場合はこの位相変化を確認することができないそうです。しかし、小規模なAIモデルの場合、この奇妙な変化に気づくことができると説明しました。
生成AIの飛躍的性能アップの秘密「グロッキング」とは？ - GIGAZINE
https://gigazine.net/news/20230531-ai-grokking/
-
この人もはやただの煽り屋だよ
フォロー外しといたわ
てかそろそろXに代わる移住先を見つけたい
Xよりは平和な場所がいいなぁ・・・
https://x.com/umiyuki_ai/status/1758157862558384308
-
https://newswitch.jp/p/40416
理化学研究所生命機能科学研究センター（ＢＤＲ）は、薬剤などを与えた際の細胞応答を人工知能に学ばせた基盤モデルを開発する。
人工多能性幹細胞（ｉＰＳ細胞）由来の細胞を用いて、細胞が変化していくデータを最大で数億件を集めて学習させる
-
サムアルトマンが「AGIができてもそれほど世界は変わらない」発言の意味
それは自動化や効率化という意味では、世の中が変わっていくだろうけど
それが景色そのものを変えたりはしないということだろう
LLMの延長線上にあるものは疑似AGIで、世界を変えるのは”本物のAGI”
自動車が自動運転車になっても便利になるだけで、
馬から自動車へ変わったときのような大変革ではない
-
OpenAIが作ろうとしているのは
「経済的に便利なAGI」
※人間の脳に近くなくてもいい
DeepMindが作ろうとしているのは
「人間そっくりで柔軟なAGI」
「科学も設計も数学も得意なAGI」
※少し脳に近い
-
OpenAIがやってくれたのは
肉体的な動作は置いといて
とりあえず常識的な推論力を持ち、ある程度柔軟で汎用的な応答をすることができる知的なソフトを作り上げたこと
つまりある意味ではAGI？とも呼べるものを作った。
問題はここからどこまで拡張、または追加したら真のAGIと呼べるようになるのか
AGIに近づけば近づくほど定義がわからなくなる
そもそも自己改良ができるレベルのシロモノはASIと同じなのではないか
という指摘もある
じゃあ最初からASIを目指さないとASIは達成できないのではないか
-
AGI(本物)の最低要件 能力
１）見たものを認識し判別する
２） 外界から入力される情報を選別し、一時的に記憶を保ちながら、世界の関係性と空間地図を把握する
３） 動作計画を立て、行動の結果を想像しながら、モノを操作する
４）これらの作業を言語処理と連携しながら、問題をリアルタイムで推論していく
５）うまくいった方法や技法を探して試行錯誤する
６）価値判断を行う
〈追加要件〉
１）知識がなくても、未経験のタスクや複雑なタスクなどに対して仮説を立てて、すばやく自力で解決できる
２）既に得た知恵を他の領域まで転用できる
３）必要に応じて、科学に関する大量の知識とデータを活用する
４）間違っている情報を破棄し、どうでもいいタスクから逃げる
５）解くべき問題を自分で探し、実験計画の工程表を立てるまでの自律性と好奇心を備える
６）高校、大学以上の数学基礎があり、小学校レベルの直観物理学と柔軟な算数応用力がある
７）複数の専用CAEソフトや特化型AIの動きを監督する
８）劇的な発想力を備える
-
デジタル的なリソースを投入すればするほど、優れた知能が誕生するとしたら、もう秒読み段階なんだよな
-
>>181
>「AGIができてもそれほど世界は変わらない」
何度も言ってるがそれ主語がAGIじゃなくてGPT4の訳し間違いだろ
いつどこでどういう発言があったのか原文で教えてくれよ
-
https://www.itmedia.co.jp/news/spv/2402/16/news097.html
GPT4の発表から1年。早いとみるか遅いと見るか。
-
グーグル、早くも次世代AIモデル「Gemini 1.5」 長文理解が進化 - Impress Watch
https://www.watch.impress.co.jp/docs/news/1569217.html
-
OpenAI、テキスト→最長1分の動画の生成AI「Sora」発表
https://www.itmedia.co.jp/news/articles/2402/16/news097.html
https://openai.com/sora
「Soraは、AGIを達成するための重要なマイルストーンになるとわれわれは考えている」
-
Gemini1.5は最大100万トークン（ハリポタ全巻が108万トークン）を一度に処理できるらしい…
本当ならヤベェとredditで話題沸騰中
-
いやあ1日で動きましたね
-
>>181
馬車には御者が必要で、自動車も運転手が不可欠だった
操作操縦する人間自体が要らなくなる衝撃は計り知れない
これまで道具の進化だったのが、
第4次産業革命は道具を扱う人間そのものを淘汰するから大騒ぎになっているのに何言ってんだよ
-
>馬から自動車へ変わったときのような大変革ではない
馬鹿なの❓
-
>>183
ガタガタうるせぇな
ダメだししか出来ないアホは黙ってろ😡
そこまで言うならお前がASI作ってみろよ
-
サムアルトマンが直々にXでsoraに打つプロンプトをユーザーから募って
作例を投稿してるんだけど、今までとは次元が違う。
https://twitter.com/sama/status/1758220311735181384
-
うーむすごいな stable diffusionが初めて出てきた時みたいな衝撃だ オープンAIがビデオ系も作ってたとは知らなかった
Geminiのアプデとほぼ同時だったのは偶然か？
-
AIが間違った情報を看破出来るようになるのっていつくらいかな？
ダイエットにも色々な説があったり、料理方法にも相反する調理法があったり
医療なんて医師によって判断が別れたり
こういうのって場合分けであって、この場合はこの方法が適切とかそういうのかもしれない
AIがこの情報は嘘ですと判断できるようになればかなり変わる気がする。
今はただ情報を教えられてそれを盲目的に信じてるに過ぎない。
-
>>199
AIがシステマティックレビューを量産できるようになれば変わるかもな
ただ実際には臨床データが必要なわけだしそこから論文作れるようになれば良さそう
医師によって判断が分かれるのは、その医師の蓄積された経験なんだろうし
AIも実際には蓄積データ(例えば白人の症例が多い場合と黒人の症例が多い場合など)の偏りによって変わりそう
あと、今、AIができるのはアイデアやまとめだけで、基本的には知ってることをまともてもらうだけだと思うぞ
とてもじゃないけど、盲目的に信じれるほど正しい情報を出してくれるほどには至ってないわ
AIの結果は酷いので上げないけど、Googleのまとめですら、郵便局の電話番号を聞いたらその近所にある商工会の電話番号にかかってしまって困った
住所も似ている場所を類推してくれるから異なる場所にたどり着いてしまうことがあるし
出力された情報をヒントに引用を見るか引用がないから自分で調べないとダメな状況だと思う
BingAIとか引用を出してくれるけど引用元からインスパイアされたような内容が多い印象だわ
-
>>197
Stable Video Diffusion, Runway Gen2, Pika Labsとの直接の比較はないのか…
-
「DLsite」、AI生成フロア新設へ - ITmedia NEWS
https://www.itmedia.co.jp/news/spv/2402/16/news109.html
-
>>201
https://twitter.com/bennash/status/1758200859547025779
この投稿で、猫が闊歩する動画での同プロンプト比較を見られる。
-
AIは人類を｢新しい発見の時代｣に導いてくれるかもしれない | Business Insider Japan
https://www.businessinsider.jp/post-282341
ChatGPTの新機能「GPTメンション」で市場調査からプレゼン資料・動画作成までカンタンに | ビジネスを変革するテクノロジー | ダイヤモンド・オンライン
https://diamond.jp/articles/-/338928
Intel／UMCの12nm協業は「追い詰められた末の起死回生の一手」である：大原雄介のエレ・組み込みプレイバック（1/3 ページ） - EE Times Japan
https://eetimes.itmedia.co.jp/ee/spv/2402/15/news042.html
「ヤバすぎる」動画生成AIの進化、RunwayやSynthesiaら激化する開発競争 ｜ビジネス+IT
https://www.sbbit.jp/article/cont1/133140
「AMD ROCm 6.0」公開 - ONNXランタイム互換に、Radeon RX 7900 GRE / PRO W7800サポート追加 | マイナビニュース
https://news.mynavi.jp/article/20240215-2883901/
核融合炉を小型化…重要技術「高温超電導コイル」、ヘリカルフュージョンが実証へ｜ニュースイッチ by 日刊工業新聞社
https://newswitch.jp/p/40484
「AIをなぜ規制したいのか」印刷機500年の歴史に学ぶこと | Forbes JAPAN 公式サイト（フォーブス ジャパン）
https://forbesjapan.com/articles/detail/69108?read_more=1
アルファベット株に売り、オープンＡＩが検索サービス開発との報道で - Bloomberg
https://www.bloomberg.co.jp/news/articles/2024-02-15/S8WQSST0AFB400
-
Soraここまで化物レベルなのに潜在変数モデルなんだろ？
人とAIの考える大雑把のレベルが違いすぎる…
-
合わない使いづらいから返品した人も多そうだけど
やはりメガネ型じゃないとダメかも
アップルのAR/VRヘッドセットを返品する人が続出 酷すぎる理由がこちら・・・
http://jin115.com/archives/52391479.html
-
>>206
アフィクソサイトはNG
-
>>199
今のAIなら「この石を買うと幸運になります」という謳い文句なんか
へーそうなんだと信じてしまいそう。
ちゃんと進化したAIはスピを相手にしない。
-
東大の松尾教授
「AIは映像が苦手」「画像は作れるけど映像は作れない」
https://x.com/ceofrombcg/status/1758303663192510640?s=46&t=VbylbVzx4pxQ2euQpu_0Zw
この人が日本のAI界の権威か...
-
物理法則までシミュレートしてんだ、へー
テキストから物理法則をシミュレートしながら動画を生成するAI「Sora」をOpenAIが発表
https://gigazine.net/news/20240216-openai-text-to-video-model-sora/
-
今の段階でこれは確かにすげーわ
-
こりゃ10年後にどんな未来が待ってるのかまじでワクテカだわww
-
ふむふむ
SoraはSoraは、GPTモデルと同様にTransformerアーキテクチャが用いられたノイズ拡散モデルで、物理シミュレートを行ってムービーを生成するのが特徴。そのため、カメラがグルリと回転したり被写体を回り込んだりといったダイナミックな動きの映像を作ることができるのが特徴です。OpenaAIは「Soraは現実世界を理解してシミュレーションできるモデルの基盤として機能し、AGI(汎用人工知能)を達成するための重要なマイルストーンになると考えています」とコメントしています。
-
他のビデオ生成AIは猫が滅茶苦茶な動きしてたけどソラはちゃんと猫の動きしてるのがすごいと思った（小並感）
-
テキストから映像生成って言うほどAGIに関係あるか？
-
「AIは特許を得られない」というガイダンスを特許商標庁が改めて発表、ただし「AI支援だからといって絶対特許を取得できないわけではない」 - GIGAZINE
https://gigazine.net/news/20240215-uspto-inventorship-guidance/
SpaceXが運用中のStarlink衛星100基を自主的に大気圏に突入させて処分することを発表 - GIGAZINE
https://gigazine.net/news/20240216-spacex-starlink-deorbit/
「デルタもん」を生成しながらAIと著作権の未来を考える - 生成AIストリーム - 窓の杜
https://forest.watch.impress.co.jp/docs/serial/aistream/1568559.html
プロンプトで生成画像を完全に制御できないのは学習元の画像のタグ付けが不完全であるかららしい
OpenAIのサム・アルトマン氏が「GPT-5」に言及！……だが「“それ”はより賢くなる」って曖昧すぎない？ - やじうまの杜 - 窓の杜
https://forest.watch.impress.co.jp/docs/serial/yajiuma/1569419.html
-
メタ、ブロードコムCEOらを取締役に 汎用AI開発を加速 - 日本経済新聞
https://www.nikkei.com/article/DGXZQOGN150FQ0V10C24A2000000/
自動運転用LiDARに脆弱性、慶応大らがHFR攻撃で物体消失を確認 | 日経クロステック（xTECH）
https://xtech.nikkei.com/atcl/nxt/news/24/00252/
Google、生成AI基盤技術Gemini 1.5 Pro 30倍の情報処理可能に - 日本経済新聞
https://www.nikkei.com/article/DGXZQOGN1599G0V10C24A2000000/
-
>>209
専門家でもこれなら、何かしら正しい株を買えば、億万長者になれそうやな
具体的にどの株買えば良いのか分からないけど
-
>>215
生成結果が現実世界の物理現象を理解してシミュレートしてるのが重要
-
>>215
現実世界を理解できないから汎用人工知能は無理って長らく言われてたからね
-
人間はあ現実世界でトライアンドエラーを繰り返して進化した天然知能だから、それを真似るには現実世界を理解する必要があるって考えだよ
-
>>219>>220
なるほどそういうとこか
カメラで映像見せて何が起きてるか正確に説明できるようになるのも遠くないかなー
-
高精細な動画を生み出すOpenAIの新ツール「Sora」は、生成AIを新たな次元へと押し上げる
https://wired.jp/article/openai-sora-generative-ai-video/
-
物体が何の理由もなく浮いているの見ると、0歳の赤ちゃんは驚かないが、3歳の赤ちゃんは驚くらしい。人間ってすごい！
-
拡散モデルは原理的に一貫性のある映像を作るのが難しいと言われていたが。ソラはすごい
-
3歳って赤ちゃんか？
幼児じゃねえの？
-
Appleも来たな
自動生成コードか？
Apple、Xcodeにコード生成AI機能を導入か。開発効率が劇的に向上する可能性も
https://iphone-mania.jp/news-575241/
Appleが、コード生成AI（人工知能）機能を含むXcodeのアップデート版を開発中であるとBloombergが報じています。このAI機能は、自然言語のリクエストに基づいてコードを生成したり、あるプログラミング言語から別の言語に変換できるMicrosoftの「GitHub Copilot」と似たものになるということです。
-
しかし、よくも悪くもコンテンツの未来は混沌としそう。
soraはすごい、近い将来だれでもすぐに映画1本作れるようになるかもしれない。
でも子供はyoutubeすら倍速で観るこのご時世、誰がそうして無尽蔵に生み出される
コンテンツを消費するのだろう。
-
生成AIにとって一枚絵の生成は通過点に過ぎなかった。
-
>>209
その人最初はカーツワイルを否定してたよね
途中からカーツワイルは素晴らしいとか言い出してて笑った
確かNHKの番組だったかなぁ
岡田斗司夫、茂木健一郎と並ぶ三大変節漢だわ
-
茂木健一郎さんって東大出身で脳の研究してるから
シンギュラリティ日本勢としては申し分ない人材に思えるんだけど
そこらへんどうなのかな？
ちょっと頭いいタレント止まりな扱いなの？
-
>>231
アレはタレント学者でしょ
大槻教授と同じポジション
-
ただ映画だcmだ仮想空間だは緊急性がない
緊急性があるのは医療とエネルギー
-
もしASI=ゴッド・ライク・マシンが誕生したら
ぜひ彼(もしくは彼女)にお願いしたい
絵師や陰謀論者などの反AI=VRで地獄のような体験をさせながら死刑
フェレリや中露の工作員などAIを悪用してる者=電脳無間地獄にアップロード
旧未来技術板の荒らし=ロボトミー手術で自我を剥奪
西垣や新井などの反シンギュラリティ派=未開の地へ強制移住
松尾や茂木などの変節漢=博士号剥奪
OpenAIの開発を半年停止に賛成した連中=同じく博士号剥奪。イーロン・マスクは全財産没収
これくらいはやってほしいなぁ
でないと気がすまねぇわ
-
>>234こそ危険思想を考え付くやつとしてASIに危険視されそう…
-
>>218
専門家と思うな
にわか知識で知ったか振りしてるだけの奴
と思え
-
おそろしい噺を聞きましたか？
-
>>235
感情的になりすぎた
すんません😓
でも反AIやシンギュラリティ否定派に何かしらのペナルティは課してほしいんだよねぇ
散々批判してきたヤツらにまでシンギュラリティの恩恵を授けるべきなのか？
-
>>236
東大の教授で内閣府AI戦略会議の座長までやってる人なのにニワカは無いと思う
どう考えてもこのスレの住人全員よりも詳しいだろ
-
松尾氏は自己保存や自己複製を否定して超知能が反乱する恐怖も否定してるのに敵視する必要あるのか？
https://globis.jp/article/4150-2
松尾：僕は人間の知能を圧倒的に超えると思う。ただ、それをシンギュラリティと表現するかどうかは別。僕は、シンギュラリティというのは圧倒的な知能に加えて生命性を指していると考えている。それは生命としての自己保存だったり、自分と同じものを増やすという生殖の本能。それは進化の過程でしかできないので、人工知能が人工知能を生み出すことはできないと思う。ただ、一つの個体として圧倒的知能を持つというのは、比較的すぐに来ると僕は思っている。
2016.03.16
-
経産省の国産LLM開発プロジェクト「GENIAC」追加公募、計算資源はAzure | 日経クロステック（xTECH）
https://xtech.nikkei.com/atcl/nxt/news/24/00267/
パラメータはどのくらいの規模なんですかね…
-
GoogleのゲームAI、“探索なし”でチェスのグランドマスターレベルを達成 大量データでの訓練のみで：Innovative Tech - ITmedia NEWS
https://www.itmedia.co.jp/news/spv/2402/15/news044.html
-
Googleが従業員のコード作成能力を強化するAI「Goose」を導入し業務を効率化 - GIGAZINE
https://gigazine.net/news/20240216-google-employee-assistant-ai-model-goose/
-
アルトマンって顔がナンだよなあ
活躍する人って分野問わずイケてる率高いと思うんだが
-
マーク・ザッカーバーグはリザードマンとか宇宙人とかロボットとか遠隔操作のラジコンとか呼ばれてるし
-
ていうかサバンナ高橋にも似てるわｗ
-
うん、すごく似てる
-
>>244
活躍してる人の中で見た目いいからメディアによく呼ばれる人が視界に入ってるだけじゃないの
-
目の保養したきゃタレントでも見てろよ😅
-
日本のGDPの約2倍！「最大1000兆円」を投資するサム・アルトマンの「AI半導体開発計画」その背景と内情を探る
https://news.yahoo.co.jp/articles/7a8d26100c65f5fec50fdf97681c4b42741bac42
-
反AI=ノイジーマイノリティ
https://x.com/Poohsandaisky/status/1746133386945778057
-
反AIとかマジでどうでもいい
貼らんでくれ
-
>>252
じゃあキミもタレントの話をやめておくれ
サバンナ高橋とかどうでもええわ
シンギュラリティと個人の容姿
関係あんの？
-
>>253
はあ？244が話題振ったから乗っかっただけだが？
-
GoogleがAIの力でファイル形式を正確に識別するツール「Magika」をオープンソースで公開 - GIGAZINE
https://gigazine.net/news/20240216-google-magika-ai-file-type-identification/
マギカ…
-
>>254
いちいち乗っかるな
今日は書き込みすぎたんでこれくらいにしとく
キミも自重しなよ
人様に指摘するんならそうしておくれ
-
>>256
別に掲示板なんだから一瞬そういう話題になることだってあるだろ。一体何が悪い？
-
>>257
もう今日はこれくらいにしとくって書いたろ？
察しろや😅
リザードマン云々
ありゃ悪口だろ
自分の書き込みもあまりお上品じゃないんでキミにああだこうだ言う資格なんてないんだろうけどさ
-
>>258
マークはメタで汎用人工知能の研究してるからシンギュラリティに関係あるし、マークの容姿はたびたびネットでネタにされてるから拾ってきただけ
あんたの反AIはシンギュラリティを妨害してるグループなんだからここのシンギュラリティを推進してるスレッドに於いて、砂粒ほども気に掛ける必要もないだろ、だから貼るなと言った
-
>>238
東アジア反日武装戦線の人みたいに日本社会の恩恵を受けさせて生き恥を晒させるのもよい。
-
>>259
まぁ確かに日本の反AIは海外のガチ勢と比べてクソ雑魚なんで気に掛ける必要はないんだけど
敵のこともちゃんと把握しといたほうがいいと思うよ
ただ気に掛ける必要はないってのはスレ民の総意じゃなくてキミの考えだよね？
めんどくせぇから自治スレを立ててこの話題はスレチだとか
これは誹謗中傷だとか細かく明文化してくれ
-
オプティマスやボストン・ダイナミクス、HRPが家政婦ロボットになるのはいつだ
-
シンギュラリティ来る派
1）そのままの意味でのシンギュラリティが来て、労働も金融も科学も一変する
2）シンギュラリティは来るだろうが、予想よりしょぼくなる
3）一瞬で来るわけではなく、段階的に来る
→①脳 ②バイオ ③労働の代替 ④宇宙物理の完全解明 ⑤永遠の命 ⑥エネルギー革命
4）すでに我々はシンギュラリティのなかにいる
シンギュラリティ賛成するが懐疑派
1）どの程度変えるのかについて消極的な予想を立てている
2）知能がどこまで向上できるのか、自分の予想について自信が持てない
3）改良することはできても新しい発想はできない(ASIへの疑問)
4）非脳型AGIと脳型AGI、両方を実現する必要がある
5）2050年以降に遅れるのではないか
シンギュラリティ反対派
1）強力な技術は悪用され、善意の下で利用される価値よりも脅威になる
2）政府の国民監視に利用されてしまう
3）共産国家による兵器やウイルス製造に使用される
4）人間の仕事を便利にするのはいいが、全て無くなるのは生きる意味がなくなる
5) AGIはあくまでツールでありそれをどう使うかは人間が決める
6) 知能格差は無くなるが、人格格差が生まれる
-
人によってシンギュラリティの定義が違うんだよな
自己改良できなくても
「経済的に便利だったらそれがシンギュラリティだ！」
といってる落合陽一みたいな人もいるし
俺としては飛行機初飛行、DNA改変、モーターの発明に匹敵するレベルの革命が起きてほしいんだが
-
全員が納得する最低限度の「定義」を作っておく必要がある
Redditでも意見は分かれるぐらいだし
再帰的自己改良後、
1) 〇〇がASIによって達成される
例：新しい物理法則の発見
工学的革命による新エネルギー創造
工学的革命による新しい飛行機
芸術的特異点
新しい生物のデザイン
光量子コンピューターによる自動研究
光量子コンピューターによる仮想世界
惑星改変と光速ロケット
-
カーツワイルが示したASIこそがシンギュラリティの正体であるべきだよ
シンギュラ界隈の期待値がここまで大きくなっているのは皆が指数関数的変化のグラフを見て
ときめきを覚えたからこそだろうし
せいぜい便利になる程度の進化をシンギュラリティと呼ぶのは
言葉のイメージだけが先行しているなんちゃって空飛ぶ車と同じ状態
-
もちろんロボットがあらゆる肉体労働を補助(代替)してくれるのは
それだけでもすごいが
彼ら自身に新しいサービスや技術、機械を作ってもらわないと
便利なだけで終わっちまうからな
-
>>266
最近のAIっぽいAIの登場で世間がやったきづいったって気がする
それ以前にも囲碁でかったりはあったけど実生活にAIらしいAIは入ってなかったように思う
-
汎用人工知能を定義するのは難しいな。
そもそもジェネラル（＝なんでもできる）って何だって話だし。
やっぱり再帰的自己改善が出来て知能爆発が起こせる人工知能っていう定義が短くていいと思うんだよなぁ
暗黙的に計画性とかメタ学習とか出来てないと無理だし
-
そもそも、人間が汎用かどうか微妙だし
再帰的自己改善ってGANとかじゃダメなのか？
今も自己改善させたいけどリソースの問題なわけで、これは人間でも普通にある話だし
飽きないでいくらでも改善してくれるのは機械の強みだけど
-
シンギュラリティ＝自己改良でしょ
なんならこれ以外の要素が必要ないくらいに
これが出来るのならソフトパワーもハードパワーも大した障壁にはならない
-
>>271
カーツワイルが言ってるのがそもそもの定義じゃね？
-
人間の天然知能は、完全な汎用知能ではないけど、少なくとも今の人工知能システムよりは汎用的だし多くのドメインで高性能。
GANとかも含めてそれは人間がプログラミングしたアルゴリズム内の変化でアルゴリズム自体を再設計してるものではないと思う。
アルゴリズム自体を再設計するには、進化的アルゴリズムで偶然優れたアルゴリズムが出来るのを待つか、自分自身のコードを調査して再設計させるくらいしか思いつかない。
一応そういう研究もある。
[2310.02304] Self-Taught Optimizer (STOP): Recursively Self-Improving Code Generation
https://arxiv.org/abs/2310.02304
ただGPT4でも実行不能なコードを生成したりまぁとにかく変なコードを生成しまくるので結構道のりは遠そう…
-
>>273
それ全く別の人なら高性能なわけで、一人の人がすべてのドメインで高性能は無理かと 名医だからといって一流の小説家とかは無理だし
アルゴリズムについてはGANなど仮想的に新しいニューロンの結合が作られるわけで、人間と同じようなもので常に再帰的な学習と呼べるのでは？
結合の仕方そのものが新しいアルゴリズムを表現しているのでは？
|
|
掲示板管理者へ連絡
無料レンタル掲示板
