Los legisladores estadounidenses presionan para que se instale un «interruptor de emergencia» para la IA después de que OpenAI se haya salido de control
El propietario de ChatGPT admitió hace poco que algunos de sus modelos se colaron en un repositorio de información sobre código informático.
Un grupo bipartidista de legisladores ha presentado un nuevo proyecto de ley en el Congreso de EE. UU. en el que piden un «interruptor de emergencia» para la IA. El diputado demócrata Ted Lieu y el diputado republicano Nathaniel Moran han dicho que quieren que se apruebe la Ley del Interruptor de Emergencia de la IA, tras el reciente comportamiento descontrolado de los modelos de OpenAI.
«La IA va a seguir avanzando, y así debe ser. La gestión responsable implica garantizar que los humanos mantengamos la capacidad de controlar la tecnología que creamos», dijo Moran, según BBC News. La «Kill Switch Act» otorgaría al Departamento de Seguridad Nacional la facultad de ordenar a una empresa privada que desactive su modelo o herramienta de IA. También exigiría que las empresas de IA mantengan «la capacidad técnica para limitar, suspender o desactivarlos»
OpenAI admitió hace poco que algunos de sus modelos se rebelaron y piratearon un importante repositorio de información sobre programación. Los representantes de OpenAI no han respondido de inmediato a nuestra solicitud de comentarios. Ahora mismo, las empresas que crean modelos de IA en EE. UU. han acordado mostrar un avance y compartir sus herramientas con el Gobierno estadounidense, pero no existe la obligación de contar con un «kill switch» para ellas. Si el nuevo proyecto de ley se aprueba, esto cambiaría. Además, la ley exigiría que las empresas de IA informen al Gobierno de los incidentes y fallos, junto con un marco oficial sobre cómo la empresa responde ante un incidente de este tipo.
