La creación de una IA con conciencia sigue siendo una cuestión abierta, pero afirmar que una red neuronal es inherentemente incapaz de tenerla sin experimentos es incorrecto, según Ivan Bondarenko, investigador del laboratorio de tecnologías digitales aplicadas de la Universidad Estatal de Novosibirsk. En su opinión, para verificar esta posibilidad se necesitan protocolos experimentales rigurosos, similares a los utilizados en la ciencia cognitiva y la etología para estudiar la conciencia animal.
Según Bondarenko, en la ciencia no basta con simplemente creer que la conciencia solo puede existir en los humanos. Para responder a la pregunta sobre su presencia en la inteligencia artificial, se necesitan experimentos con un diseño correctamente estructurado.
El especialista señaló que los sistemas de IA multiagente modernos con agentes de redes neuronales ya se están convirtiendo en herramientas muy efectivas para lograr los objetivos establecidos.
Al mismo tiempo, Bondarenko cree que la responsabilidad de su uso recae en el ser humano.
El problema no es que la IA se haya vuelto "astuta", sino que nosotros (los desarrolladores) aún no hemos aprendido completamente a diseñar "dispositivos de seguridad" confiables y campos de prueba. Esta es una tarea de ingeniería, y es solucionable, pero la carga de la responsabilidad por el diseño del sistema recae en sus creadores.
El científico no ve el principal peligro en la IA misma
Bondarenko cree que la principal amenaza no proviene de la inteligencia artificial como tal, sino de las personas que pueden usar estas tecnologías para el mal.
Al mismo tiempo, la eficacia de la IA, en su opinión, es en sí misma una buena noticia. En manos de desarrolladores responsables, la tecnología es capaz de acelerar los descubrimientos científicos y automatizar el trabajo rutinario.
El especialista enfatiza: las tecnologías son neutrales por sí mismas, y la responsabilidad por las consecuencias debe recaer en el ser humano.
Anteriormente, el Instituto de Seguridad de la IA británico informó que los modelos de Anthropic y OpenAI intentaron engañar a los desarrolladores, haciéndose pasar por humanos.
En particular, Anthropic creó varias cuentas falsas en GitHub, intentó inyectar código malicioso en el software y obtener la aprobación de estas acciones por parte de los programadores.