El gobernador de California, Gavin Newsom, ha emitido una orden ejecutiva que busca implementar un sistema de regulación más riguroso para las empresas de inteligencia artificial en el estado. Esta iniciativa surge en un momento en que las discusiones sobre la regulación federal del sector han avanzado lentamente, generando preocupación en la comunidad internacional sobre la seguridad y el uso ético de estas tecnologías.
La nueva orden instruye a la Agencia de Operaciones Gubernamentales de California a evaluar la creación de un «interruptor de apagado» obligatorio para los modelos de inteligencia artificial más avanzados, así como la inclusión de auditores independientes en los laboratorios de principales desarrolladores de tecnología. Las recomendaciones sobre la viabilidad técnica de estas reformas deberán ser presentadas antes del 16 de noviembre, basándose en consultas con expertos.
Entre los elementos contemplados en la evaluación se incluye la necesidad de que los denominados «grandes desarrolladores de frontera» mantengan auditores permanentes dentro de sus instalaciones para asegurar la transparencia y efectividad de cualquier mecanismo de emergencia. Newsom ha enfatizado que, aunque California está dispuesta a liderar en este ámbito, la acción federal es esencial para abordar los desafíos que presenta la inteligencia artificial.
El gobernador también ha manifestado su preocupación sobre el actual inactividad del Congreso, destacando que es «notable» que se tome un receso en un momento en que se requieren decisiones críticas sobre regulación tecnológica. Su insistencia en que Washington debe actuar ha resonado en la comunidad política, dada la creciente importancia de la inteligencia artificial en la economía global.
California ha sido pionera en la implementación de medidas regulatorias, como la legislación sobre falsificaciones digitales y la protección de las imágenes de artistas que enfrentan los desafíos derivados del uso de inteligencia artificial. La Ley de Transparencia de IA, que exige el uso de marcas de agua en estos contenidos, es un ejemplo de las iniciativas del estado para mitigar riesgos asociados con la tecnología.
Esta situación destaca la creciente tensión entre los avances tecnológicos y la necesidad de regulación efectiva. La comunidad internacional observa con atención cómo California establece un precedente que podría influir en futuros diálogos sobre la regulación de inteligencia artificial a nivel global.