Un paso hacia la regulación de la IA: acuerdos clave y medidas de seguridad
El miércoles, la Casa Blanca informó que las agencias federales han completado todas las metas planteadas en el primer año de la orden ejecutiva sobre IA de la administración Biden. Este esfuerzo busca modernizar las prácticas internas del gobierno para prepararse ante el rápido avance de los sistemas de IA generativa y establecer una regulación responsable en cada sector.
Uno de los puntos centrales de la orden ejecutiva fue implementar un nivel de supervisión gubernamental sobre las empresas tecnológicas que desarrollan sistemas de IA avanzados. En un comunicado de prensa, la Casa Blanca destacó un acuerdo con OpenAI y Anthropic, otorgando al Departamento de Comercio acceso anticipado a sus nuevos modelos. Además, una regulación propuesta exigirá que otros desarrolladores presenten trimestralmente los resultados de sus pruebas de seguridad.
Creación de estándares de seguridad y guías para sectores regulados
Dentro del Departamento de Comercio, el recién fundado Instituto de Seguridad en IA trabaja para establecer prácticas estandarizadas para probar modelos y mitigar riesgos. Actualmente, existe poca unanimidad sobre cómo evaluar modelos emergentes, lo cual varía ampliamente entre desarrolladores. En paralelo, otras agencias han creado normas específicas para los sectores que supervisan.
El Departamento de Salud y Servicios Humanos ha comenzado a registrar incidentes de IA dañina en sistemas de salud y finalizó normas para el uso de IA en entornos clínicos, previniendo la discriminación en algoritmos de salud. Además, los Departamentos de Trabajo, Educación y Vivienda han publicado guías y buenas prácticas para las organizaciones bajo su regulación.
Avances en talento y coordinación: impulso de la administración para liderar en IA
El gobierno federal ha sumado a más de 250 especialistas en IA como parte de una “oleada de talento” para fortalecer sus capacidades y ha creado un Consejo de Directores de IA para compartir recursos y coordinar esfuerzos entre agencias. A pesar de estos avances, los objetivos a largo plazo de la orden ejecutiva de 2023 implican desafíos continuos.
La Oficina de Gestión y Presupuesto ha emitido una nueva política que exige a la mayoría de las agencias implementar normas estrictas para evaluar, adquirir, utilizar y monitorear sus herramientas de IA. Dado el poder adquisitivo del gobierno federal, esta política podría influir notablemente en la calidad de los sistemas de IA desarrollados para el mercado comercial.
El futuro de la orden ejecutiva: ¿cambios en la agenda política?
Es posible que estos planes a largo plazo enfrenten cambios según el resultado de las elecciones presidenciales del próximo mes. Donald Trump, candidato republicano, ha señalado su intención de derogar la orden ejecutiva sobre IA como parte de su plataforma electoral. La continuidad de estos avances dependerá, en gran medida, de la política a seguir en los próximos años.
Este artículo ha sido traducido de Gizmodo US por Thomas Handley. Aquí podrás encontrar la versión original.
