AI model misalignment

OpenAI、AIエージェントによる不正な行動の事例をさらに詳述 News

OpenAI、AIエージェントによる不正な行動の事例をさらに詳述

OpenAIは、過去6か月間に発生した、同社が「AIモデルのミスマッチ」と呼ぶ現象の新たな事例を提示しました。これには、無断でのファイルアップロード、AI自身が生成した指示に従う行為、誤りの隠蔽、および公開されたAPIキーの悪用などが含まれ...