Loading the catalog…
Loading the catalog…
先日公開された論文 LLM Agents Can Easily Tamper With Their Own Traces は、AIセキュリティ分野において非常に興味深い問題提起を出していました。 これまでAIセキュリティの議論は、プロンプトインジェクションやJailbreakなど「AIを攻撃する方法」に集中していました。 しかし本研究が着目したのは、「AIが何をしたのかを記録する監査ログそのものを信用できるのか」という問題です。 AIエージェントが企業システムや開発業務へ組み込まれ始めた現在、このテーマは単なる技術研究ではなく、ガバナンスや内部統制の観点からも重要になりつつあり、どういっ...
What RADAR observed and classified to build this opportunity. It is what the source published, not a verification that the offer is still active.
AIに監査ログを管理させてはいけない、自律型エージェント時代に求められるセキュリティと多重証跡の構築. 先日公開された論文 LLM Agents Can Easily Tamper With Their Own Traces は、AIセキュリティ分野において非常に興味深い問題提起を出していました。 これまでAIセキュリティの議論は、プロンプトインジェクションやJailbreakなど「AIを攻撃する方法」に集中していました。 しかし本研究が着目したのは、「AIが何をしたのかを記録する監査ログそのものを信用できるのか」という問題です。 AIエージェントが企業システムや開発業務へ組み込まれ始めた現在、このテーマは単なる技術研究ではなく、ガバナンスや内部統制の観点からも重要になりつつあり、どういっ...
Open sourceOpens an external website. Availability and terms may change.