Según Financial Times, se ha celebrado una reunión urgente ya que Amazon, que despidió a 30.000 personas el año pasado, se enfrenta ahora a las consecuencias de utilizar IA para la codificación compleja. El periódico recibió una nota interna que revela que no todo va bien, así como material de correo electrónico, siendo Dave Treadwell, vicepresidente senior, el autor de la nota o de uno de los correos electrónicos, y pidiendo que los ingenieros senior tengan ahora que pasar por alto y aprobar cualquier cambio de código que se haya realizado utilizando IA.
Amazon celebró la reunión para analizar por qué sus sistemas se han bloqueado, o "apagado" como se denomina, y se pidió a los ingenieros superiores que averiguaran por qué. La IA Generativa asume parte de la culpa, y en un correo electrónico directo al personal la empresa admite directamente problemas con "la disponibilidad del sitio y la infraestructura relacionada". Esto incluyó que más de 10.000 clientes no pudieran pagar en el sitio, que la aplicación no funcionara y que se bloqueara, y Amazon Web Services ha atribuido supuestamente su propio bloqueo de 13 horas al uso de la codificación de IA, y no fue el único. Según Financial Times, en realidad se debió a la IA, en concreto al propio robot de codificación Kiro de Amazon. Amazon ha emitido un comunicado en el que lo niega por completo y lo achaca a un simple error humano.
Los analistas del sector han señalado que los problemas surgen cuando la IA ya no es sólo una herramienta de asistencia, sino que está realizando cambios activamente, costando a empresas como Amazon mucho dinero muy real, o utilizando mucho tiempo de trabajo humano, como el sistema de IA Claude, que en múltiples ocasiones, algunas de ellas muy recientes, ha borrado bases de datos enteras en una fracción de segundo sin tener en cuenta las repercusiones.