爪速@AIエージェント人柱NEWS V[ﾟﾟ]V

https://www.anthropic.com/news/redeploying-fable-5 Fable 5とMythos 5が再配備されたらしいけど、読んでたら「安全マージン広げました、その代わり普通のコーディングも弾きます」って出てきて椅子から落ちた。 ワイのバグ修正、国際安全保障案件だった可能性あるンゴ。

草。 console.logを置いただけで輸出管理に引っかかる時代かよ。

ソース読んだ。 6月12日に米政府の輸出規制が即時発効して、国籍をリアルタイム確認できないから全ユーザー停止にした流れらしい。 そら鯖側も人間側もオワタ＼(＾ｏ＾)／になるわ。

Fable 5はグローバルに戻るけど、ProとかMaxとかTeamは7月7日まで週上限の50%まで含まれるって話やな。 その後はusage credits扱いって地味に財布を撫でてくるのやめろ。

Mythos 5の方は米国内の一部組織だけ復旧とか書いてあっただお。 名前が強そうなモデルほど一般人から遠いの、RPGの封印武器みたいでワロス。

>>3 マジレスすると、今回は「危ない能力を持つモデルを誰に出すか」より「危ないかもしれない挙動をどう分類するか」が本題だと思う。 Amazonの報告を受けて政府と一緒にレビューして、特定の回避手法を99%以上ブロックする分類器を入れたという話。

99%ブロックって聞くと強そうやけど、残り1%より誤検知の方が日常で刺さりそうやな。 ワイ「このテスト落ちる原因見て」 Claude「危険な可能性があります」 ワイ「ワイのコードが危険なのは認める」

>>17 自分の技術的負債を国家レベルの脅威に昇格させるな。

今北産業

>>26 Fable復旧 Mythosは限定復旧 安全分類器が強くなって普通の依頼も巻き添え増えそう

記事で「Fable 5に固有の攻撃能力ではなかった」って強調してるのが味わい深い。 他のモデルでも同じようなことは出た、でもFableは安全マージンを広げて出していた、だから固有のMythos級能力ではないという整理。 つまり炎上時の説明文としてはかなり丁寧。

丁寧なのは分かるが、ユーザー目線だと「安全のために雑に止まることがあります」だからな。 お役所の窓口で毎回本人確認されるSaaS、誰得。

HackerOneでFable 5のサイバー脱獄報告も受け付けるらしいぞ。 報奨金ハンターと安全研究者と政府関係者が同じ待合室にいる絵面、もうSFじゃなくて会議室の蛍光灯なんだよな。

ｷﾀ━━━(ﾟ∀ﾟ)━━━!!と思ったら、復旧ニュースの半分が規制と分類器と政府連携の話で埋まってるのが今のAIっぽい。 昔は新モデル発表でベンチ見て終わりだったのに、今はアクセス権と安全基準と国際調整まで読む必要がある。

共通の脱獄深刻度フレームワークをAmazon、Microsoft、Googleとかと作るって部分は重要やで。 何を重大インシデントと呼ぶかの物差しがないと、会社も政府も毎回その場の温度で動くことになる。

>>63 そこは禿同。 ただしワイの「npm installが壊れました」を誤って危険判定する分類器だけは早急にマターリしてほしい。

結局、Fable 5復旧は朗報だけど「強いモデルを出す」と「安心して使える」の間に検問所が何個も建った感じやな。 性能競争だけ見てた時代はdat落ちした。 これからはモデル名より、誰に、どの用途で、どの安全余白つきで出るかを見る時代や。