OpenAI、AIを攻撃するAI「GPT-Red」発表　その用途とは

米OpenAIは7月15日（現地時間）、AIの脆弱性を自動で探す攻撃専用モデル「GPT-Red」を発表した。人間の専門家に代わって「プロンプトインジェクション」と呼ばれる攻撃を大量に仕掛け、モデルの弱点を洗い出す。GPT-Redとの攻防で鍛えた最新モデル「GPT-5.6」は、この種の攻撃への耐性が大きく高まったという。