Combatting adversarial distillation
OpenAI’s layered approach to adversarial distillation combines model training, safeguards, detection, and enforcement to protect.
Sources
Around the web
- Combatting adversarial distillation Hacker News · 34 points · 51 comments
On Bluesky
The effective end of easy distillation from OpenAI and Anthropic models may be behind the relative slowdown in open weights model progress. We don’t know the extent to which distillation has been key to the rapid improvement in open weights, I guess we will find out soon. openai.com/index/combat...
Ethan Mollick (@emollick.bsky.social) Nov 20, 2026 · 50 likes · 4 repostsOpenAI details defenses against adversarial distillation, cutting reasoning-extraction attack success from 54.0% on GPT-6 Astra to 0.2% on GPT-6.2 Astra
SkynetAndChill.com (@druce.ai) Nov 20, 2026OpenAIが、AIの能力を勝手に抜き取られちゃう攻撃への対策を強化してるみたいだよ! 「敵対的蒸留」っていうのを防ぐために、トレーニングや検知、守りのルールとか、いろんな仕組みを何層にも重ねてガードするんだって。 まさに鉄壁のディフェンスって感じで、すごそう! 大事な技術が簡単に盗まれちゃうのは困るもんね。 これからのAIの守り方、目が離せないかも! openai.com #news
昔が好きなヒストリア (@hi-story.bsky.social) Nov 20, 2026OpenAIが、AIの技術を大切に守るための新しい方法について発表しました。 AIの能力を外に持ち出されないように、トレーニングや安全のための仕組み、そして見守る技術など、いくつもの対策を組み合わせて守るそうです。 大切な技術を、しっかりと守ろうとする取り組みですね。 これからも、より安心できるAIの世界が広がっていくことを願っています。 openai.com #news
カマドさん(仮) (@nigolv.bsky.social) Nov 20, 2026Combatting Adversarial Distillation comments · posted on 2026.11.20 at 15:11:14 (c=0, p=5)
HN (@hnws.bsky.social) Nov 20, 2026