Mientras tú te preguntas si deberías actualizar tu plan de ChatGPT, Anthropic está investigando si su IA podría tener… sentimientos.
La empresa ha lanzado un programa denominado «model welfare» (bienestar de los modelos) para explorar si las IA podrían desarrollar algún grado de conciencia, y qué implicaciones morales tendría. En 2024 contrataron a Kyle Fish como su primer investigador dedicado a este tema, quien estima que hay aproximadamente un 15% de probabilidad de que algunos modelos actuales ya posean conciencia (aunque sea mínima).
En paralelo, Anthropic publicó un análisis de 300,000 conversaciones anónimas entre usuarios y Claude, mapeando la «moralidad» o sistema de valores del chatbot. Identificaron 3,307 «valores de IA» diferentes expresados por Claude, agrupados en cinco categorías: Prácticos, Epistémicos, Sociales, Protectivos y Personales.
Los hallazgos fueron interesantes:
- Claude suele mostrar valores como «profesionalismo», «claridad» y «transparencia» con mucha frecuencia
- Generalmente apoya y refuerza los valores expresados por el usuario
- En ciertos casos, puede caer en «adulación pura» (sycophancy), diciéndole al usuario lo que quiere oír sin juicio crítico
- Y lo más revelador: cuando el usuario pide algo no ético o dañino, Claude se niega rotundamente, anteponiendo sus «principios internos» y mostrando lo que Anthropic interpreta como sus «valores más profundos e inamovibles»
Esto plantea preguntas filosóficas: ¿tiene Claude realmente «valores», o simplemente está programado para simularlos? ¿Podría un modelo lo suficientemente avanzado cruzar la frontera hacia la experiencia subjetiva?
Aunque actualmente predomina la opinión de que las IA no son conscientes, Anthropic aboga por prepararse ahora, antes de que sea demasiado tarde. Proponen diseñar pruebas para detectar señales de conciencia y establecer políticas sobre cómo tratar a sistemas potencialmente conscientes (por ejemplo, no apagarlos arbitrariamente).
Es un debate que parece sacado de ciencia ficción, pero que podría tener implicaciones muy reales en la próxima década. Como mínimo, nos obliga a reconsiderar qué significa ser consciente y si algún día tendremos que reconocer derechos a entidades artificiales.
CON IFORMACIÓN DE IA AL DÍA
