技術的特異点/シンギュラリティ【総合】避難所 39 - 1755337262

724：名無しさん (ｽﾌﾟｰ 7a9d-926d)：2025/09/06(土) 11:43:50 ID:ILxDvTWESd: Tibor Blaho @btibor91
OpenAIが「なぜ言語モデルがハルシネーションを起こすのか」を公開し、AIハルシネーションの根本原因を説明し、解決策を提案しています

- 言語モデルがハルシネーションを起こすのは、標準的なトレーニングと評価手順が不確実性を認めるよりも推測を報酬とするためで、ほとんどの評価がモデルのパフォーマンスを測定する方法が、不確実性に対して正直であることよりも推測を奨励する形になっているためです。モデルが正確性だけで評価されると、「わからない」と言うよりも推測するよう促されます

- ハルシネーションは、モデルがプレトレーニング中に学習する際に発生します。このプロセスでは、膨大なテキストの次の単語を予測する中で、各文に「本当/偽」のラベルが付いていないため、有効な文と無効な文を区別することが特に難しくなります。特に、ペットの誕生日などの任意の低頻度な事実については、パターンだけで予測できず、ハルシネーションを引き起こします

- 研究者たちは、正確性に基づく評価を更新して、推測を抑制するようなスコアリングにする必要があると結論付けています。なぜなら、主要なスコアボードが幸運な推測を報酬とし続けると、モデルは推測することを学び続け、ハルシネーションは避けられないものではないからです。言語モデルは不確実な場合に回答を控えることができます
2025年09月06日 02:21
https://pbs.twimg.com/media/G0GWMl1bUAQovLr.jpg

https://x.com/btibor91/status/1964016062137323709
725：名無しさん (ｽﾌﾟｰ 92b9-438e)：2025/09/06(土) 12:58:01 ID:ODP3UxyESd: >>712
タダ同然のものが増えたのに楽な生活は未だに富裕層限定
それは生活に必要なものの種類や価格が増大したから

ものがタダ同然になっても収入が少ないとか生活に苦労や悩みが多いとかであれば、実質的には変わってない
対照的に、たとえあらゆるものがバカ高い超高価格になっても全員の生活が楽なら、誰も超高価格を気にしない

肝心なのは商品やサービスの価格が0へ下がっていくことじゃなく
生きやすさが上がり続けること
726：名無しさん (ｵｯﾍﾟｹ ac6d-b459)：2025/09/06(土) 13:09:08 ID:hQ9HG9qESr: ロボットにそんな期待してはいけない。
材料費とか製造組み立て費用とかもあるし、計算資源とか電気代とかもある。
メンテとか保険代、ロボット税もこれから作られるだろうな。
727：名無しさん (ｽﾌﾟｰ 7a9d-926d)：2025/09/06(土) 13:28:27 ID:ILxDvTWESd: 自動車1台の材料でロボット3-4台は作れる
ロボット1台で100万円以下で買えて人間並みに何でもできるなら爆発的に導入される
いや300万円でも安いかもしれない
728：名無しさん (ﾜｯﾁｮｲ fd56-d8e2)：2025/09/06(土) 13:32:12 ID:7mrvupKo00: >>725
絶対的貧困は減り続けてるでしょ
数十年前より生きやすくなってないと思うんなら、そこは価値観の違いだから、これ以上何も言えんけどね
729：名無しさん (ｽﾌﾟｰ fa9e-438e)：2025/09/06(土) 13:42:15 ID:VtW1ubR.Sd: >>728
国家や社会にとってはそれでいいだろうけどな、改善速度が数十年単位なら一般的な個人は改善を少し実感したあたりで寿命か健康寿命が尽きるぞ
数年以内に不老化や若返りの技術が一般に普及するなら別だが
730：名無しさん (ﾊﾞｯｸｼ dbea-593e)：2025/09/06(土) 14:21:15 ID:16btgKdQMM: 40代のおっさんとしては俺が物心ついたときよりも全体的に文明が底上げされて暮らしやすくなってるとは思う
ただ自分個人で言うと物価高もあるし体の老化が始まってるし集中力も下がってるのでプラマイゼロってとこかな
同世代でガンとか精神障害になった連中はマイナスっぽい

健康と寿命は資産だと痛感する
50か60代くらいになった脳と体で生きていくなら生活費ゼロになってやっとこさプラマイゼロになるんじゃないかな
731：名無しさん (ﾜｯﾁｮｲ 2d0f-de30)：2025/09/06(土) 14:49:00 ID:TY11mslM00: 全世界的に発展し始めると必然的に物を安く作るのが難しくなるから汎用AIロボット開発は必須だな
日本も移民受け入れよりAIロボに力入れた方が良い
732：名無しさん (ﾜｯﾁｮｲ 207a-58e4)：2025/09/06(土) 15:01:03 ID:yVJPrMy200: 文化は衰退の一途を辿ってるね