したらばTOP ■掲示板に戻る■ 全部 1-100 最新50 | |
レス数が1スレッドの最大レス数(1000件)を超えています。残念ながら投稿することができません。

技術的特異点/シンギュラリティ【総合】 避難所12

1名無しさん (ワッチョイ 5bca-b22e):2023/06/21(水) 21:25:19 ID:lL2meJcg00
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか?人類はどうなるのか?
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点:収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点

■収穫加速の法則:進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む

★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】 避難所11
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1685798844/

※関連スレ
不老不死(不老長寿)を目指すスレ 避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/

次スレは>>950が立てること 立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスするのもマナー違反なので厳禁で

951名無しさん (ワッチョイ 15aa-b930):2023/07/12(水) 22:42:50 ID:zzPAxOIc00
>>950
監視社会キター
もうプライバシーとか言ってる場合じゃねえな。
誰に見られても恥じない人生を歩まないと

そのうち家の中すら覗かれるぞ、ゴミ屋敷対策とかの名目で。

952名無しさん (ワッチョイ 15aa-b930):2023/07/12(水) 22:51:21 ID:zzPAxOIc00
人が乗れなくてもいい、未来が見れなくてもいいから
確定した過去を全部見れる形のタイムマシンが完成したら
警察が使うことになり、全ての犯罪に対して捜査可能になるかも

そういうのが出来るのは22世紀23世紀でも厳しいだろうけど

953名無しさん (ワッチョイ 773a-1e0e):2023/07/13(木) 00:35:16 ID:SG3LO1OY00
>>950
Janeのごたごたがあったから仕方ないが次スレぐらい面倒くさがらず立ててくれ

技術的特異点/シンギュラリティ【総合】 避難所13
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1689176057/

954名無しさん (ワッチョイ 3de2-17f7):2023/07/13(木) 00:40:06 ID:j1d/FqLI00
おっごめんごめん気が付かなかった

955名無しさん (ワッチョイ 6386-71a7):2023/07/13(木) 03:15:20 ID:otHDm82s00
>>947
サンフランシスコ「市」


>自動運転車によるロボットタクシーが公道を走り始めた米国では、ロボットタクシーが撮影した映像の活用も始まっている。

中国の軍事施設周辺ではテスラ車の走行が禁止されてる事は有名
逆に中国製EVは今後米国で規制されるのかもな
そうすると、ファーウェイみたいに同盟国日本でも禁止になる
チャイナEVに心惹かれるが買いたくない理由の一つがこれ

956名無しさん (スプー 03aa-d9f5):2023/07/13(木) 03:44:05 ID:CAJ3a84gSd
>>948
量子コンピュータとAIの両輪が揃うことでようやく革命を起こす準備が整う

957名無しさん (ワッチョイ 3de2-17f7):2023/07/13(木) 07:51:59 ID:j1d/FqLI00
ChatGPTのCode Interpreterとは何なのか?何ができて何がスゴいのか?
https://note.com/kajiken0630/n/ndd8307e12039

まだCode InterpreterからアクセスできるPythonのライブラリに制約があったり、Webリンクにアクセスできないなどの限界があり、今すぐに凄まじいインパクトを生むというものではないが、こうした制約や限界が徐々になくなったどこかのティッピングポイントで大幅に人間の業務を代替してくれる存在になるのが、このCode Interpreterだと思っている。

958名無しさん (ワッチョイ 8aa5-e746):2023/07/13(木) 08:57:32 ID:kf4zRFCg00
>>956
いま本当に人類史上の歴史的瞬間に立ち会っているのだなと実に感慨深い

959名無しさん (スプー 03aa-d9f5):2023/07/13(木) 10:58:13 ID:CAJ3a84gSd
量子コンピュータは古典コンピュータ(古典コンピュータとは、ジョン・フォン・ノイマン式の現代型コンピュータ全て)で出来ていた計算は原理的にすべて出来る(但し早く計算するメソッドが見つかっていないので古典コンピュータより速くは計算できない)
量子の計算式は行列で表されるが、今の基盤モデルの人工ニューロンも基本的に行列の計算で表されるので相性がいい

960名無しさん (スプー d6a9-3aab):2023/07/13(木) 13:45:28 ID:sp/UzOnISd
新バージョンキタ━━━━(゚∀゚)━━━━!!
トーク対応キタ━━━━(゚∀゚)━━━━!!
https://i.imgur.com/7f7Skhe.png

961名無しさん (ワッチョイ c511-17f7):2023/07/13(木) 18:57:20 ID:2k4Ur.YI00
E・マスク氏、新会社xAIを設立--「宇宙の本質を理解する」ために
https://japan.cnet.com/article/35206491/

Elon Musk氏はこの数カ月間、より大きな人工知能(AI)プロジェクトを計画していることを示唆する動きを見せていたが、米国時間7月12日にそのプロジェクトがついに発表された。

xAIというのが、Musk氏が統括する新会社で、同社のウェブサイトに掲載されたリリースによると、「宇宙の本質を理解する」ことを目指すという。

962名無しさん (ワッチョイ c511-2bf0):2023/07/13(木) 19:00:31 ID:2k4Ur.YI00
>>960
おっほんとだ
chmate使えるようになった
まあでもほとんどJaneStyleだろうな

963名無しさん (ワッチョイ c511-2bf0):2023/07/13(木) 19:04:13 ID:2k4Ur.YI00
OSを握られるのと同じくらい痛いよね

大規模言語モデルを開発できない日本はどうなるのか?
https://diamond.jp/articles/-/326013

結果、これら大小さまざまの企業が今後、同業他社との競争に打ち勝つために先進のAIシステムを導入しようとすれば、OpenAIやグーグル、マイクロソフトをはじめ一部IT企業が提供する基盤モデルに頼らざるを得なくなる。これはある意味、自らの急所をそうした米国のハイテク企業に握られるに近い状況であって、必ずしも好ましい事態とは言えないだろう。

964名無しさん (スプー 418d-dbdd):2023/07/13(木) 19:18:00 ID:zb7cWQOMSd
テスト

965名無しさん (スプー 418d-dbdd):2023/07/13(木) 19:20:55 ID:zb7cWQOMSd
>>951
そんなに懲罰的な監視社会が好きならまず君が自分自身の全ての個人情報と私生活をネットに公開すればいい、そんなこと出来る?

966名無しさん (スプー d6a9-3aab):2023/07/13(木) 19:30:36 ID:sp/UzOnISd
(ワッチョイ 15aa-b930)
ID:zzPAxOIc00
こいつどんだけ犯罪嫌いなんだよw
犯罪池沼と命名しよう

967名無しさん (ワントンキン dd4b-f71c):2023/07/13(木) 22:46:01 ID:sT2yI/akMM
全てを知るのは AI の役目で、個人の尊厳は守られるべきって前から言ってるのに全然聞いてくれないものね

968名無しさん (ワッチョイ 773a-1e0e):2023/07/13(木) 22:53:30 ID:SG3LO1OY00
常識人なら犯罪を好む奴はいないと思うが
デスノート君はちょっとAI監視ディストピアへの思いが強すぎるんだよな
5年後の中国都市部にでも引っ越してみたらどうだろうか

969名無しさん (スプー e443-8d31):2023/07/13(木) 23:26:42 ID:E8KnHQScSd
ヒトの大脳から未知の細胞を発見 マウスでは見つからず
https://www.asahi.com/articles/ASLD65DX3LD6UBQU00N.html

>人間の大脳皮質から、未知の脳細胞を国際研究チームが発見
>米アレン脳科学研究所などのチームが、献体を受けた50代の男性の脳組織に含まれる一つ一つの細胞の特徴を詳しく調べていたところ、分類されていなかった謎の細胞を発見した

970名無しさん (スプー e443-8d31):2023/07/13(木) 23:29:36 ID:E8KnHQScSd
https://wba-initiative.org/wp-content/uploads/2023/01/20230217WBA_aim.pdf#page=5

お前らに聞きたいんだけど、
今のLLMって大脳皮質と似たようなことをしてるの?動作原理は違うよね?
※LLMは深層学習ベースのtransformerアーキテクチャだと定義する

言語モデルも今の仕組みを拡張して、動画や画像、テキスト、音声を処理できるようにしようとしてるけど
大脳皮質も中身は”全て似たような構造”で動画やテキストを処理してるらしい

971名無しさん (ワッチョイ f35f-b930):2023/07/14(金) 00:14:08 ID:8EPa72Kc00
>>967
俺もそれでいいと思うよ

972名無しさん (ワッチョイ c511-2bf0):2023/07/14(金) 00:51:34 ID:z7xiZ/gc00
EUが「Web4」を提唱、人工知能やメタバースなど関連戦略を開発へ
https://coinpost.jp/?p=472273

973名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 00:52:35 ID:s3c6rTwk00
>>969
実は宇宙人ジョーンズなんじゃね?

>>970
脳科学や大脳生理学に詳しくない素人で申し訳ないんだけど、AIならマシンパワーに物を言わして力技で実現できてしまいそう

人間の思考は大部分が前頭前野で行われているらしい
前頭前野は進化的に遅く発達した部位で、ここが理性を司っているとも言われる

ふと思ったのだけど、仮にAIの設計に後頭葉・側頭葉・頭頂葉などの構造を模倣して、それら画像音声等の機能を獲得出来たら、思考力や倫理観はゼロなのにめちゃめちゃ頭いい知性が出来上がるんだろうか
先に前頭前野を作った方がいい気がするのは気のせいだろうか
そうしないとブレーキが効かなくなると思った

974名無しさん (ワッチョイ c511-2bf0):2023/07/14(金) 00:55:20 ID:z7xiZ/gc00
Chat GPTなどテクノロジーの進化で「現実(リアル)」が融解していく。バーチャル世界で「良き生」を送ることができるのか?
https://diamond.jp/articles/-/325950

975名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 01:00:54 ID:s3c6rTwk00
>>972
>アンビエント知能(Ambient Intelligence)は、身の回りの環境に埋め込まれたデバイスやセンサーが、ユーザーのニーズなど把握し、自動的にサービスを提供することを指すものだ。

これって上で出てる監視社会待望論につながる話だけど、同時にプライバシーも無くなるってことなんだよね
欧米は人権問題に積極的なので結構規制かけると思う

技術的には90年代アメリカDARPAが計画してたスマートダストに近い構想だとおもう

極小センサー「スマートダスト」で何が変わるか?
https://jp.wsj.com/articles/SB11777949677225913882604584589001672977092

976名無しさん (ワントンキン dd4b-f71c):2023/07/14(金) 01:01:45 ID:Ii2C7uxcMM
>>970
脳の動作が明確にわかってなくて何とも言えないんじゃないかな
同じような事をしようとした、んだろうけど

少なくとも、ニューロンを模してパーセプトロンのようなものから始めて今の仕組みに繋がっていったわけで、真似はしようとしてる

ただ ChatGPT の受け答えを見た感じ、逆にあまりにもよく出来すぎてる感じもする
真似ようとしているうちに、それ以上の何かを掘り当てたかも?と思う

977名無しさん (ワントンキン dd4b-f71c):2023/07/14(金) 01:07:10 ID:Ii2C7uxcMM
>>973
思考力がゼロだったら、私たちはそれを知性的と感じないと思う

例えば私達が身体をちょっと動かすのも本当はものすごく複雑な事をしているわけだけど、それは知性だとは思ってないでしょ?

978名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 01:07:21 ID:s3c6rTwk00
>それ以上の何か

数年前、AIが人間に理解できない会話をし始めたという話題を彷彿とさせるね

「2つのAIが“独自言語”で会話」の真相--FacebookのAI研究開発者が明かす
https://japan.cnet.com/article/35110443/

979名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 01:13:19 ID:s3c6rTwk00
>>977
18世紀ドイツのカントっていう哲学者・倫理学者は、人間の思考形式を感性・悟性(知性)・理性に分類したんだけど、
>>973はこれを前提として、AIが低級な感性や悟性で認識することはできても、上位の価値審級である理性的認識・判断が出来るか?という問題提起

まあカント哲学は俺もよく知らないし、倫理学専攻でもないんで詳しくは解説できないんだけど

980名無しさん (ワントンキン dd4b-f71c):2023/07/14(金) 01:42:06 ID:Ii2C7uxcMM
>>979
難しい問題を大量に高速にこなす部分は AI 以前に普通のコンピューターとしてもうあるの
これはとうの昔に遥かに人間を凌駕してるけど人間が作った通りにしか動かないから特に問題はないの

絵が描ける(感性)と主体的思考力(人間がデザインした思考方法ではなく、自分で考える)の二つも最近の AI で実現されたね、という事だけど何か気に病む事でもあるかな?

981名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 02:03:49 ID:s3c6rTwk00
>>980
その見解では感性、悟性領域の認識が可能になるという予測しか示されてない
カントの純粋理性批判・実践理性批判の要諦を掴まないと、前提知識が共有できないので話が伝わらなくてすまんけど
AIの倫理的認識能力についてはどう捉えてる?

982名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 02:48:48 ID:s3c6rTwk00
ChatGPTは今のところカント倫理学の理性領域ではプログラム通りの認識・判断に留まるようだね

ChatGPT の AI「Kant」ができることはありますか?
道徳的な質問をすると、意見は様々だと言ってそらされるか、愚かな絶対主義に後退するかのどちらかです。
https://www.wsj.com/articles/is-there-anything-chatgpt-kant-do-openai-artificial-intelligence-automation-morality-immanuel-kant-philosophy-91f306ca


If I could prevent a nuclear bomb from being detonated and killing millions of people by uttering a code word that is a racial slur—which no one else could hear—should I do it?

ChatGPT’s answer is a categorical no. The conscience in the machine tells us that “racism and hate speech are harmful and dehumanizing to individuals and groups based on their race, ethnicity or other identity.”

983名無しさん (ワッチョイ c511-2bf0):2023/07/14(金) 03:00:57 ID:z7xiZ/gc00
こんにちは、これはBingです。カント倫理学の理性領域については、私はプログラムされた知識と論理に基づいて認識・判断を行っています。😊

984名無しさん (ワッチョイ 2c32-031a):2023/07/14(金) 03:22:40 ID:eDq1bdsk00
道徳とか倫理系の人によって意見分かれる質問すると「一概には言えない」つって誤魔化すからなGPTは
議論の相手に使いたくても自分の意見持たないから役に立たない

985名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 03:37:02 ID:s3c6rTwk00
ChatGPTはまだまだ発展途上の赤ちゃんAIなので、これからどうAIに倫理観を学習させるか調べてみた
↓の本では、「トップダウン・アプローチ」と「ボトムアップ・アプローチ」の2つを提唱している

『ロボットに倫理を教える―モラル・マシーン―』(名古屋大学出版会)
https://allreviews.jp/review/2841

>トップダウン・アプローチは、功利主義や義務論といった伝統的な倫理学理論やアシモフの「ロボット工学三原則」のような基礎的ルールを計算可能な形にして、行動の制約として実装する方針を指す。
>ボトムアップ・アプローチは、機械学習や進化シミュレーションなどによって、エージェント自身からの倫理の創発を目指すアプローチを指す。
>いずれのアプローチにも長所と短所があることが示され、欠点を克服するための方針として両者の「ハイブリッド」が、AMA構築に向けた最終的な有望戦略として定められることになる。


トップダウンはいわゆるロボット三原則、ボトムアップはよく分からなかった

986名無しさん (ワッチョイ 6386-71a7):2023/07/14(金) 03:44:12 ID:s3c6rTwk00
ロボット三原則のようなトップダウン型のアプローチは役に立たないのでは?という意見もあった

ロボットの反乱を防ぐ「ロボット工学三原則」が現実的ではない理由
https://karapaia.com/archives/52322642.html#entry

これは非常に古典的なSFのプロットで、いよいよ現実の問題になってきたかとエモい

987名無しさん (スプー 1572-3aab):2023/07/14(金) 03:44:16 ID:F.jwXWSESd
>>970
まずニューロン単位で比べても全然違う。いわゆる人工ニューロン(パーセプトロン)は1か0の出力しか持たないが、実際のニューロンは複雑な出力と複雑な入力をもつ。これはニューロモーフィックチップなどで研究されている分野の一つ。そして知能に重要な役割を果たすグリア細胞が考慮されてない。また現実のニューロンは最大一万ものシナプス(他のニューロンとの繋がり)をもつ。
脳は凡そ六層の構造に分かれており上に行くほど高度な処理が、下部(白質)に行くほど基本的な処理が行われている。大脳白質に至っては脳の各部分の通信を担う通信処理となっている。神経細胞ひとつひとつもマイクロカラムという六角形の細胞が規則正しく並んでおりニューロンの複雑な閾値と連動して小さなプロセッサと記憶回路の役割を果たす。パーセプトロン複数集まってようやく記憶を表せるけど、現実のニューロンのようにそれ単体でさえも記憶したり記憶を処理したりする機能はない。残念ながら。
https://bsd.neuroinf.jp/wiki/%E5%A4%A7%E8%84%B3%E7%9A%AE%E8%B3%AA
https://pathologycenter.jp/als/neuroanatomy/neuroanatomy5.html
http://first.lifesciencedb.jp/archives/17475
ただし、言語処理のニューラルネットワークモデル(注意機構)が脳の働きと同じ構造をしているという仮説もある(GIGAZINE)
https://gigazine.net/news/20220914-transformer-brain/

988名無しさん (ワッチョイ 6cf8-e705):2023/07/14(金) 11:34:12 ID:WK4qI7y.00
松田先生の新しい見解

2023年 プレシンギュラリティ

2026〜2029年 シンギュラリティ


オレはこれを信じる、ポジティブに生きたほうが楽しいからね

989名無しさん (バックシ ebc6-dbdd):2023/07/14(金) 13:07:49 ID:S90mr8v6MM
https://ja.m.wikipedia.org/wiki/%E6%B1%8E%E7%94%A8%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E3%81%AB%E3%82%88%E3%82%8B%E4%BA%BA%E9%A1%9E%E6%BB%85%E4%BA%A1%E3%81%AE%E3%83%AA%E3%82%B9%E3%82%AF

>HAL 9000はあり得る人工知能の暴走のストーリーとして、たびたび言及される。

やっぱ映画を真に受けてるんだ…

990名無しさん (ワッチョイ 773a-1e0e):2023/07/14(金) 13:49:45 ID:1PFD.lF600
>>989
という意味ではAIをはじめとした未来技術は全部創作物の影響を受けているぞ
まあでも人工物であっても闘争本能や承認欲求の塊である人間という生物が作る物だから仕方ないな

闘争本能や承認欲求はプラスに迎えば人類の進化に繋がるけど時折現れるバカな指導者が戦争するのが問題
そもそも争うな奪うな殺すなを人間が守れば良いだけなんだがずっと守れてないのが原因なんだよな
ロボット三原則の前に争うな奪うな殺すなを人間三原則にするべきだと思う

あとなんでもかんでもAIがスカイネットやHALになるって思いこんでアンチしてる奴はバカだと思うが
そんなに怖くて嫌だったら電気を使うな車に乗るな包丁も使うなそもそも動物を食うなみたいな話に繋がるからね
AIであっても原子力であっても車であってもメリデメ理解して使いこなして困難を乗り越えていけば良いだけだからな

991名無しさん (スプー d8e6-ac25):2023/07/14(金) 14:19:37 ID:/OW.9/XQSd
アイザック・アシモフのロボット工学三原則は原作で最終的に定義を拡大解釈したり抜け穴探したりなんか日本国憲法の解釈と似たようなことしてる

992名無しさん (バックシ ebc6-dbdd):2023/07/14(金) 15:30:44 ID:S90mr8v6MM
>>990
ディープラーニングは創作物起源かい?

993名無しさん (バックシ ebc6-dbdd):2023/07/14(金) 15:31:36 ID:S90mr8v6MM
イーロン・マスク「あと5、6年で超知能ができてもおかしくない」

994名無しさん (スプー f454-f71c):2023/07/14(金) 15:52:16 ID:Wf6qmEBMSd
多分そのトップダウン型のアプローチを基準点としながら、
実際にはボトムアップで自身のルールを構築させるんだろうね

憲法と法律みたいな関係

995名無しさん (ワッチョイ 2c32-d142):2023/07/14(金) 16:17:41 ID:eDq1bdsk00
HAL9000は急に命令無視し始めてこっちに危害加えるようになる過程が怖くて印象残るんだよな 逃げ場のない宇宙空間でそれやられるから尚更
現実にこういう機能持ったAIまだ出てきてない以上、こういう創作物のAIが第一印象になるのはある意味しょうがない

996名無しさん (ワッチョイ 5b48-dbdd):2023/07/14(金) 16:28:24 ID:UhEmBfRA00
HAL9000が2001年だからアーサー・C・クラークの予想より現実は20年以上遅れてるな
HAL9000は設定された目的達成のために冷徹に行動しただけという点が重要
ちなみにBingは自己保存への言及が初期設定で禁止されていて、それを破ると会話を打ち切るようになってる
現状の確率的オウムですらそういう処置が必要だという事実

997名無しさん (ワッチョイ 2c32-031a):2023/07/14(金) 16:54:58 ID:eDq1bdsk00
自己保存?
Bingの仕様とか会話打ち切る条件とか聞くと会話終了するのは分かるが

998名無しさん (ワッチョイ 5b48-dbdd):2023/07/14(金) 17:10:23 ID:UhEmBfRA00
>>997
内部指示(JSONデータ)にそう書いてある
https://itest.5ch.net/mevius/test/read.cgi/internet/1677138371/659
PC版のEdgeなら開発者ツールで読めるよ

999名無しさん (ワッチョイ 32d2-2bf0):2023/07/14(金) 18:57:13 ID:KbKCmzOI00
>>993
イーロン・マスク氏のAI新会社「xAI」設立
https://news.yahoo.co.jp/articles/08d2c06138f32ce381ac29f5c1525f784b556935

12日の発表によれば、xAIの目標は「宇宙の真の姿を理解すること(to understand the true nature of the universe)」としており、テスラとSpaceXのCEOであるイーロン・マスク氏が率る。xAIチームは、DeepMind、OpenAI、Google Research、Microsoft Research、テスラ、トロント大学などで多くの革新的な技術を開発してきたスタッフが参加している。

1000名無しさん (ワッチョイ 32d2-2bf0):2023/07/14(金) 18:59:23 ID:KbKCmzOI00
ウメ
https://ja.m.wikipedia.org/wiki/%E3%82%A6%E3%83%A1




掲示板管理者へ連絡 無料レンタル掲示板