La empresa «Yandex» se convirtió en la primera en Rusia en recibir el certificado internacional ISO/IEC 42001, que confirma el cumplimiento de los estándares de desarrollo y gestión de la inteligencia artificial. Así lo informó el servicio de prensa de la empresa y lo confirmó TÜV AUSTRIA Standards & Compliance, que realizó la auditoría.
El estándar ISO/IEC 42001, introducido en 2023, regula los procesos de creación e implementación de soluciones de IA. Evalúa no las tecnologías en sí, sino el sistema de gestión: la protección de los datos de los usuarios, el control de errores, la ética de los algoritmos y la minimización de los riesgos sociales. Según la jefa del servicio de cumplimiento y formación en seguridad de la información, Anna Zinchuk, la empresa comenzó a construir procesos de seguridad de la IA mucho antes del lanzamiento de YandexGPT.
Yaroslav Seliverstov, especialista líder en el campo de la IA de la «Universidad 2035», cree que la certificación según ISO/IEC 42001 contribuirá a aumentar la seguridad, la calidad de la interacción con las herramientas de IA y aumentará la confianza de los usuarios finales.
En primer lugar, esto confirma que los datos de los usuarios están protegidos al nivel de los requisitos internacionales. El monitoreo automático de errores y anomalías reduce el riesgo de recibir respuestas dañinas o incorrectas. Los sistemas de retroalimentación permiten corregir rápidamente los errores de comportamiento de la IA y tener en cuenta los comentarios reales de los usuarios, los principios de ética, consagrados en la empresa, aseguran que la IA no emita respuestas ofensivas, discriminatorias o desinformativas.
Algunas empresas, por ejemplo, «Rostelecom», aún no han pasado la certificación, pero están desarrollando estándares internos. Los expertos predicen un aumento del interés por la certificación entre los desarrolladores rusos.
Certificados como estos son importantes, por ejemplo, desde el punto de vista de los inversores: dan una garantía adicional de que no sucederá algo con la IA que haga caer la capitalización. Además, el cumplimiento de los estándares internacionales es interesante para posibles socios y clientes, en particular de países amigos. Finalmente, esto también es importante para los usuarios comunes, que ahora a menudo desconfían de los productos con IA, sin estar seguros de su seguridad.
En enero de 2025, Rusia introdujo un GOST similar, cuyo texto es idéntico a ISO/IEC 42001, lo que puede acelerar la implementación de los estándares.
La aparición de un certificado de este nivel motiva a las empresas a construir sistemáticamente procesos tecnológicos y de producción, identifica las zonas de riesgo y desarrollo.
Hasta ahora, solo unas pocas corporaciones han recibido el certificado, incluyendo Microsoft, Google Cloud y Samsung SDS. Según TÜV AUSTRIA, en el mundo se han emitido no más de 50 certificados similares.
