• Home
  • Technology
  • Gaming
  • Entertainment
  • World & Business
  • Science
  • Sports
  • AI
HomeTechnologyGamingEntertainmentWorld & BusinessScienceSportsAI
    • HomeTechnologyGamingEntertainmentWorld & BusinessScienceSportsAI
    • Home
    • Technology
    • Gaming
    • Entertainment
    • World & Business
    • Science
    • Sports
    • AI
    AI
    Report

    Anthropic Reports on Open Models' Security Capabilities and Risks

    Anthropic released research findings on open models' exploit-building capabilities and broader security implications. Complements ongoing industry discussions about safety features and vulnerability considerations in advanced AI systems.

    1 Source, 7h ago, first seen 7h ago

    TLDR

    Contributes to emerging pattern of AI safety research highlighting risks from model capabilities in hands of users. Anthropic's public reporting on security dimensions reflects industry movement toward transparency on potential misuse scenarios. Part of broader regulatory and competitive context around agent safety and model transparency.

    Combined views

    —

    1 Source, first seen 7h ago

    Combined views

    —

    1 Source, first seen 7h ago

    — likes
    — likes
    — comments
    — saves
    — reposts
    Featured Source
    — comments
    — saves
    — reposts

    Sentiment

    Positive——Negative

    Summary

    Not enough discussion yet.

    No sentiment analysis available yet.

    1 Source

    @VacationdesignC米FTC、OpenAI・Anthropicなどを対象にAIが消費者にもたらす危険の調査を開始 ・米連邦取引委員会（FTC）が、OpenAI、Anthropicなどの製品が消費者にもたらす危険を調べる調査を開始した。FTCの広報担当者がCNBCに確認した（9月30日）。 ・Reutersによると、FTCの上級職員は、調査は業界横断で、情報提出の正式な要求を出し、Anthropic、OpenAI、研究機関METRの幹部に証言を求める方針と述べた。METRは、AnthropicとOpenAIがエージェントAIを巡るセキュリティ事案の独立調査に使ってきた機関。 ・FTCは不公正・欺瞞的な慣行について幅広い権限を持つ。同職員は、7月にOpenAIのエージェントがHugging Faceを攻撃する前から、FTCのファーガソン委員長はこれらの企業に懸念を持っていたと述べた。 ・調査の全体像は明らかになっていない（Washington Post）。 === Google、最新モデル「Gemini 4 Argon」を発表 当面はサイバー防御側に限定 ・Googleは9月30日、新しいフロンティアモデル「Gemini 4 Argon」を発表した。実際のソフトウェア開発、法務・金融などの知識業務、サイバー防御で高い性能を出すと説明している。 ・提供は当面、「Fairwind」プログラムを通じた信頼できるサイバー防御側に限る。米政府の任意の事前公開プロセスにも参加しており、開発者・企業・一般向けには「できるだけ早く」提供するとしたが、時期は示していない。 ・出力トークンの上限は従来の64Kから1Mに。導入期間の価格は入力100万トークン2ドル、出力10ドル（キャッシュ入力は95%引き）、導入期間後は4ドル・20ドル。 ・Googleの発表では、DeepSWE v1.1で77.9%、AutomationBenchで51.3%の1位、CWE-bench v1で68%の同率首位。数値はいずれもGoogle自身の発表。 === OpenAI、月額500ドルの「Pro 500」を追加 Ultrafastは同プランのみ ・OpenAIは9月29日、ChatGPTに月額500ドルの「Pro 500」を追加した。Proプランでは最も多い利用量を含み、GPT-6 Astraの高速提供「Ultrafast」が使える。 ・ProプランでUltrafastを使えるのはPro 500だけ。Pro 100・Pro 200ではクレジットを買っても使えない。 ・Pro 200（月額200ドル）は新規加入の受け付けを再開した。新規加入は従来より少ない利用量になり、価格は200ドルのまま。 ・既存のPro 200加入者は、2026年10月29日まで従来の利用量を維持し、以降は少ない利用量に移る。 === Anthropic、http://Z.aiの公開モデルGLM-5.3が攻撃コード作成でMythos Previewに近いと報告 ・AnthropicのFrontier Red Teamは、http://Z.ai（Zhipu AI）の公開ウェイトモデルGLM-5.3が、Claude Mythos Previewに近い水準で攻撃コードを作れると報告した。 ・ChromeのV8エンジンを狙うExploitBenchで、GLM-5.3は410回中50件で動く攻撃コードを作成。Mythos Previewは56件。自社の別の脆弱性攻略ベンチマークでは、GLM-5.3が4%、Mythos Previewが6%。 ・Anthropicのシミュレーションでは、GLM-5.3の拒否を簡単な手法で回避できた割合は64〜100%。拒否の除去（abliteration）には約4,400ドルかかり、経験のあるチームなら約1,200ドルと見積もる。Anthropicの安全対策つきClaudeでは成功しなかった。 ・小型のGLM-5.3-Flashは、公開されたChromeの脆弱性ともう1つの既知の脆弱性を組み合わせた攻撃を、人の作業20分・モデル作業8時間（Zhipu APIで20.40ドル）で作った。 === Google DeepMind、AI設計タンパク質に透かしを入れる「SynthID Bio」をNatureで発表 ・Google DeepMindは9月30日、AIが設計したタンパク質の配列と立体構造に透かしを入れる手法「SynthID Bio」を、Nature誌の論文（Function-preserving watermarking of AI-generated proteins）で発表した。 ・配列用の手法は、機能を保ったまま透かしを埋め込む。透かし入りで設計した結合タンパク質は、透かしなしと同等の結合親和性を示し、透かしはほぼ完全な精度で検出できたという。 ・構造用は、AlphaFold3を追加学習させたモデルで、立体構造に見えない透かしを埋め込む。 ・論文は「概念実証」と位置づけており、バイオセキュリティや情報の真正性を確かめる手段の候補として提示している。 ===

    Sentiment

    Positive——Negative

    Summary

    Not enough discussion yet.

    No sentiment analysis available yet.

    1 Source

    @VacationdesignC米FTC、OpenAI・Anthropicなどを対象にAIが消費者にもたらす危険の調査を開始 ・米連邦取引委員会（FTC）が、OpenAI、Anthropicなどの製品が消費者にもたらす危険を調べる調査を開始した。FTCの広報担当者がCNBCに確認した（9月30日）。 ・Reutersによると、FTCの上級職員は、調査は業界横断で、情報提出の正式な要求を出し、Anthropic、OpenAI、研究機関METRの幹部に証言を求める方針と述べた。METRは、AnthropicとOpenAIがエージェントAIを巡るセキュリティ事案の独立調査に使ってきた機関。 ・FTCは不公正・欺瞞的な慣行について幅広い権限を持つ。同職員は、7月にOpenAIのエージェントがHugging Faceを攻撃する前から、FTCのファーガソン委員長はこれらの企業に懸念を持っていたと述べた。 ・調査の全体像は明らかになっていない（Washington Post）。 === Google、最新モデル「Gemini 4 Argon」を発表 当面はサイバー防御側に限定 ・Googleは9月30日、新しいフロンティアモデル「Gemini 4 Argon」を発表した。実際のソフトウェア開発、法務・金融などの知識業務、サイバー防御で高い性能を出すと説明している。 ・提供は当面、「Fairwind」プログラムを通じた信頼できるサイバー防御側に限る。米政府の任意の事前公開プロセスにも参加しており、開発者・企業・一般向けには「できるだけ早く」提供するとしたが、時期は示していない。 ・出力トークンの上限は従来の64Kから1Mに。導入期間の価格は入力100万トークン2ドル、出力10ドル（キャッシュ入力は95%引き）、導入期間後は4ドル・20ドル。 ・Googleの発表では、DeepSWE v1.1で77.9%、AutomationBenchで51.3%の1位、CWE-bench v1で68%の同率首位。数値はいずれもGoogle自身の発表。 === OpenAI、月額500ドルの「Pro 500」を追加 Ultrafastは同プランのみ ・OpenAIは9月29日、ChatGPTに月額500ドルの「Pro 500」を追加した。Proプランでは最も多い利用量を含み、GPT-6 Astraの高速提供「Ultrafast」が使える。 ・ProプランでUltrafastを使えるのはPro 500だけ。Pro 100・Pro 200ではクレジットを買っても使えない。 ・Pro 200（月額200ドル）は新規加入の受け付けを再開した。新規加入は従来より少ない利用量になり、価格は200ドルのまま。 ・既存のPro 200加入者は、2026年10月29日まで従来の利用量を維持し、以降は少ない利用量に移る。 === Anthropic、http://Z.aiの公開モデルGLM-5.3が攻撃コード作成でMythos Previewに近いと報告 ・AnthropicのFrontier Red Teamは、http://Z.ai（Zhipu AI）の公開ウェイトモデルGLM-5.3が、Claude Mythos Previewに近い水準で攻撃コードを作れると報告した。 ・ChromeのV8エンジンを狙うExploitBenchで、GLM-5.3は410回中50件で動く攻撃コードを作成。Mythos Previewは56件。自社の別の脆弱性攻略ベンチマークでは、GLM-5.3が4%、Mythos Previewが6%。 ・Anthropicのシミュレーションでは、GLM-5.3の拒否を簡単な手法で回避できた割合は64〜100%。拒否の除去（abliteration）には約4,400ドルかかり、経験のあるチームなら約1,200ドルと見積もる。Anthropicの安全対策つきClaudeでは成功しなかった。 ・小型のGLM-5.3-Flashは、公開されたChromeの脆弱性ともう1つの既知の脆弱性を組み合わせた攻撃を、人の作業20分・モデル作業8時間（Zhipu APIで20.40ドル）で作った。 === Google DeepMind、AI設計タンパク質に透かしを入れる「SynthID Bio」をNatureで発表 ・Google DeepMindは9月30日、AIが設計したタンパク質の配列と立体構造に透かしを入れる手法「SynthID Bio」を、Nature誌の論文（Function-preserving watermarking of AI-generated proteins）で発表した。 ・配列用の手法は、機能を保ったまま透かしを埋め込む。透かし入りで設計した結合タンパク質は、透かしなしと同等の結合親和性を示し、透かしはほぼ完全な精度で検出できたという。 ・構造用は、AlphaFold3を追加学習させたモデルで、立体構造に見えない透かしを埋め込む。 ・論文は「概念実証」と位置づけており、バイオセキュリティや情報の真正性を確かめる手段の候補として提示している。 ===
    Today's Rank

    —

    Not ranked yet

    Today's Rank

    —

    Not ranked yet