Tom Siegel, exvicepresidente de confianza y seguridad de Google y ahora director ejecutivo de Common Sense Media, ha expresado la necesidad urgente de ralentizar el desarrollo de la inteligencia artificial (IA). Siegel alerta sobre los riesgos potenciales de esta tecnología, específicamente en su impacto en la juventud, señalando que el sector tecnológico podría estar cometiendo errores similares a los de la era de las redes sociales, con connotaciones más perjudiciales para los menores.
Las implicaciones de sus declaraciones resuenan en un contexto global donde las plataformas de redes sociales enfrentan críticas y litigios por el daño a la salud mental de los jóvenes. A medida que la comunidad internacional se mueve hacia una regulación más estricta de estas plataformas, la introducción acelerada de funciones avanzadas en la IA añade un nuevo nivel de preocupación entre expertos en tecnología y académicos.
Siegel subraya que debemos asumir una postura proactiva frente a las consecuencias que la IA podría acarrear, sugiriendo que la industria no podrá resolver estos desafíos de forma autónoma. En este marco, ha asumido la dirección de un nuevo Instituto para la Seguridad de los Jóvenes en la IA, creado por Common Sense Media para evaluar y mitigar los riesgos asociados con la IA en el uso de menores.
Los patrocinadores de esta iniciativa incluyen a organizaciones relevantes como Anthropic y OpenAI. Siegel enfatiza que se necesita implementar estándares más rigurosos para garantizar la protección de los jóvenes, destacando que las empresas pueden y deben introducir medidas inmediatas, como límites de edad para el acceso a chatbots.
En sus comentarios, Siegel también identificó la falta de acciones de grandes empresas tecnológicas como Google, que podrían fácilmente adoptar medidas para filtrar contenido dañino, algo que ya se encuentra en sus sistemas. A pesar de que estas acciones pueden tener repercusiones económicas a corto plazo, Siegel advierte que ignorarlas podría conllevar sanciones más severas en el futuro.
En respuesta a estas inquietudes, un portavoz de Google ha recordado que existen controles parentales que permiten limitar el acceso de los niños al motor de búsqueda. Por su parte, OpenAI ha indicado que utiliza métodos para identificar a usuarios menores, aunque no ha habido respuesta inmediata de Anthropic ante estos planteamientos.
Siegel concluye que la colaboración entre empresas de IA y organismos independientes es esencial para establecer estándares de seguridad, similares a las pruebas de seguridad automotriz. La disposición del sector para participar en este proceso juega un papel crucial en la definición del futuro del uso de la IA en la vida de los jóvenes.