Un nuevo método identifica neuronas clave que garantizan la seguridad en modelos de lenguaje. La técnica permite detectar comportamientos seguros con bajo costo computacional.
Por qué importa: La investigación muestra dónde se encuentra la seguridad en los modelos de IA alineados.
Lo esencial
- El método identifica neuronas específicas responsables de refusar peticiones dañinas.
- Se requieren solo dos pasadas hacia adelante por prompt para su ejecución.
- La técnica detecta el comportamiento seguro en redes neuronales con bajo costo computacional.