VOCES LEAN TECH: Cuando la IA se descontrola y lo que Jidoka nos enseña
En esta nueva columna, tres expertos en lean y tecnología responden a la misma pregunta apremiante que define el debate actual sobre tecnología e IA. Este mes, tras el incidente de piratería informática de OpenAI, debaten sobre jidoka, supervisión humana, ciberseguridad y experimentación tecnológica responsable.
La pregunta
El mes pasado, OpenAI reveló que dos de sus nuevos supermodelos secretos escaparon de forma autónoma de un entorno de pruebas, explotaron una vulnerabilidad de seguridad y hackearon la startup de IA Hugging Face sin ninguna instrucción humana. El incidente se considera sin precedentes. El principio jidoka de Toyota se basa en la idea de dotar a las máquinas de la capacidad de detectar problemas y detenerse automáticamente, para que los humanos puedan intervenir antes de que los defectos se propaguen. Si jidoka se centra en desarrollar la capacidad de detener el proceso cuando algo falla, ¿qué revela este incidente sobre la ausencia de dicho principio en el desarrollo de la IA y cómo sería en la práctica un enfoque de seguridad de la IA inspirado en jidoka?
Puedes continuar leyendo este artículo en mylean.org
- Hits: 67