ΠΠΎΠ²ΠΎΡΡΠΈ Π½Π΅ΠΉΡΠΎΡΠ΅ΡΠ΅ΠΉ | Chatgpt, Claude, Gemini ΠΈ ΡΠ΄ MAX
π§ ΠΠ½Π°ΡΠΎΠΌΠΈΡΠΊΠ° Π΄Π»Ρ ΠΊΡΠ΅ΠΌΠ½ΠΈΠ΅Π²ΡΡ ΠΌΠΎΠ·Π³ΠΎΠ²: ΠΈΡΡΠ»Π΅Π΄ΠΎΠ²Π°ΡΠ΅Π»ΠΈ ΠΈΠ· University ofβ¦
π§ ΠΠ½Π°ΡΠΎΠΌΠΈΡΠΊΠ° Π΄Π»Ρ ΠΊΡΠ΅ΠΌΠ½ΠΈΠ΅Π²ΡΡ
ΠΌΠΎΠ·Π³ΠΎΠ²: ΠΈΡΡΠ»Π΅Π΄ΠΎΠ²Π°ΡΠ΅Π»ΠΈ ΠΈΠ· University of Oxford ΠΈ Π΄ΡΡΠ³ΠΈΡ
ΠΊΠΎΠ½ΡΠΎΡ Π½Π°ΠΊΠ°ΡΠ°Π»ΠΈ 180-ΡΡΡΠ°Π½ΠΈΡΠ½ΡΠΉ ΡΠ°Π»ΠΌΡΠ΄ ΠΎ ΡΠΎΠΌ, ΠΊΠ°ΠΊ Π·Π°Π»Π΅Π·ΡΡ Π²ΠΎ Π²Π½ΡΡΡΠ΅Π½Π½ΠΎΡΡΠΈ Π½Π΅ΠΉΡΠΎΡΠ΅ΡΠ΅ΠΉ ΠΈ ΠΏΠΎΠ½ΡΡΡ, ΡΡΠΎ ΡΡΠΎΡ ΡΡΡΠ½ΡΠΉ ΡΡΠΈΠΊ Π²ΠΎΠΎΠ±ΡΠ΅ ΠΎ ΡΠ΅Π±Π΅ Π΄ΡΠΌΠ°Π΅Ρ.
ΠΠ½ΡΡΡΠΈ β ΠΌΠΎΡΠ½ΡΠΉ Π³Π°ΠΉΠ΄ ΠΏΠΎ ΠΌΠ΅Ρ
Π°Π½ΠΈΡΡΠΈΡΠ΅ΡΠΊΠΎΠΉ ΠΈΠ½ΡΠ΅ΡΠΏΡΠ΅ΡΠΈΡΡΠ΅ΠΌΠΎΡΡΠΈ (Mechanistic Interpretability) ΡΠ°Π΄ΠΈ ΠΏΡΠΈΠ·ΡΠ°ΡΠ½ΠΎΠΉ Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡΠΈ ΠΠ:
β Superposition ΠΈ Transformer Circuits: ΠΊΠ°ΠΊ ΡΠ΅ΡΡ ΠΊΠΎΠ΄ΠΈΡΡΠ΅Ρ ΠΈΠ½ΡΡ ΠΈ ΡΡΠΈΡΠ°Π΅Ρ;
β Sparse Autoencoders (SAE): Π²ΡΠΊΠΎΠ²ΡΡΠΈΠ²Π°Π½ΠΈΠ΅ ΠΎΡΠ΄Π΅Π»ΡΠ½ΡΡ
ΠΏΡΠΈΠ·Π½Π°ΠΊΠΎΠ² ΠΈΠ· ΠΏΡΠ΅Π΄ΡΡΠ°Π²Π»Π΅Π½ΠΈΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ;
β Circuit Discovery: ΡΠ°ΡΠΊΠΎΠΏΠΊΠ° ΠΌΠ΅Ρ
Π°Π½ΠΈΠ·ΠΌΠΎΠ², ΠΎΡΠ²Π΅ΡΠ°ΡΡΠΈΡ
Π·Π° ΠΊΠΎΠ½ΠΊΡΠ΅ΡΠ½ΠΎΠ΅ ΠΏΠΎΠ²Π΅Π΄Π΅Π½ΠΈΠ΅;
β AI Safety: ΠΊΠ°ΠΊ ΡΡΠ»ΠΈΡΡ ΠΌΠΎΠ΄Π΅Π»ΡΡ (Steering), ΠΏΡΠ°Π²ΠΈΡΡ Π΅ΠΉ ΠΌΠΎΠ·Π³ΠΈ ΠΈ ΡΠ΅ΠΊΠ°ΡΡ ΡΠΊΡΡΡΡΠ΅ ΠΏΡΠΎΡΠ΅ΡΡΡ.
Π ΠΎΠ±Π·ΠΎΡΡ Π΄ΠΎΠΊΠΈΠ½ΡΠ»ΠΈ ΠΈΠ½ΡΠ΅ΡΠ°ΠΊΡΠΈΠ²Π½ΡΠΉ ΠΊΡΡΡ ΠΈ Jupyter Notebooks Ρ ΠΊΠΎΠ΄ΠΎΠΌ. ΠΠ»Π°Π²Π½Π°Ρ ΠΈΡΠΎΠ½ΠΈΡ ΠΎΡ Π°Π²ΡΠΎΡΠΎΠ²: Π΄Π°ΠΆΠ΅ Π΅ΡΠ»ΠΈ Π²Ρ Π΄ΠΎ Π²ΠΈΠ½ΡΠΈΠΊΠ° ΡΠ°Π·Π±Π΅ΡΡΡΠ΅, ΠΊΠ°ΠΊ Π½Π΅ΠΉΡΠΎΠ½ΠΊΠ° ΡΠΎΠΎΠ±ΡΠ°ΠΆΠ°Π΅Ρ, Π³Π°ΡΠ°Π½ΡΠΈΡΠΎΠ²Π°ΡΡ Π΅Ρ Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡΡ ΡΡΠΎ Π²ΡΡ ΡΠ°Π²Π½ΠΎ Π½Π΅ ΠΏΠΎΠΌΠΎΠΆΠ΅Ρ.