Enfoque de código abierto

La inteligencia artificial de código abierto tiene el potencial de desbloquear un progreso tecnológico sin precedentes. Esta tendencia nivela el campo de juego, otorgando a las personas acceso a tecnología poderosa y, a menudo, costosa de manera gratuita, lo que permite la competencia y la innovación que producen herramientas que benefician a los individuos, la sociedad y la economía. La apertura de la inteligencia artificial no es opcional; es fundamental para consolidar la posición de Estados Unidos como líder en innovación tecnológica, crecimiento económico y seguridad nacional.

En este entorno global ferozmente competitivo, la carrera por desarrollar ecosistemas de IA robustos se intensificó, impulsando una rápida innovación y soluciones superiores. Al promover un enfoque equilibrado para la evaluación de riesgos que fomenta la innovación, Estados Unidos puede asegurar que su desarrollo de inteligencia artificial permanezca competitivo, garantizando así los beneficios transformadores de la IA en el futuro.

El marco

El marco de IA de frontera se centra en los riesgos más importantes en las áreas de amenazas de ciberseguridad y riesgos derivados de armas químicas y biológicas. Al priorizar estas áreas, se puede trabajar para proteger la seguridad nacional mientras se promueve la innovación. Este marco describe varios procesos que se siguen para anticipar y mitigar riesgos al desarrollar sistemas de IA de frontera. Por ejemplo:

• Identificación de resultados catastróficos a prevenir: Este marco identifica posibles resultados catastróficos relacionados con riesgos cibernéticos, químicos y biológicos que se busca evitar. Se centra en evaluar si estos resultados catastróficos son habilitados por avances tecnológicos y, de ser así, identifica formas de mitigar esos riesgos.
• Ejercicios de modelado de amenazas: Se realizan ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar malutilizar la IA de frontera para producir esos resultados catastróficos, colaborando con expertos externos según sea necesario. Estos ejercicios son fundamentales para el enfoque basado en resultados.
• Establecimiento de umbrales de riesgo: Se definen umbrales de riesgo en función del grado en que los modelos facilitan los escenarios de amenaza. Se tienen procesos en marcha para mantener los riesgos dentro de niveles aceptables, incluyendo la aplicación de mitigaciones.

El enfoque de código abierto también ayuda a anticipar y mitigar riesgos debido a que permite aprender de las evaluaciones independientes de la comunidad sobre las capacidades de los modelos. Este proceso mejora la eficacia y confiabilidad de los modelos y contribuye a una mejor evaluación de riesgos en el campo. Además de evaluar el riesgo catastrófico, el marco también toma en cuenta los beneficios de la tecnología que se está desarrollando.

Mirando hacia adelante

Si bien el enfoque de este marco es ayudar a mitigar riesgos severos, es importante recordar que la razón principal por la que se desarrollan estas tecnologías es porque tienen el potencial de beneficiar significativamente a la sociedad. Se espera que al compartir el enfoque actual para el desarrollo responsable de sistemas avanzados de IA, se pueda proporcionar perspectiva sobre los procesos de toma de decisiones y avanzar en discusiones e investigaciones sobre cómo mejorar la evaluación de la IA, tanto en relación a los riesgos como a los beneficios. A medida que la tecnología de IA progresa, se continuará evolucionando y refinando el enfoque.