OpenAIのライバル AnthropicがAI不可解性達成

人工ニューラルネットワークの働きを理解するため、Anthropicの研究者らがニューロンを解釈可能な特徴に分解する新方法を提案した。この新たな理解法は、個々のニューロンよりも一貫性のある特徴、パターンを注目し、これらがネットワーク内でどのように動作するかを把握することに重点を置いている。特徴量はより具体的で、ネットワークの様々な動作を捉え、それぞれの特徴が何をするものか理解するのが比較的簡単であることが解明された。また、特徴の活性化により、ネットワークの動作をより正確に制御できる。これらの発見は人工ニューラルネットワーク安全性の向上に寄与し、複雑なモデル解釈の障害を克服する可能性がある。この研究は神経科学とコンピュータ科学の共通課題である、複雑なシステムの解読を補完するものである。