El enfoque estrecho de la cumbre de IA en el Reino Unido sobre la seguridad y el riesgo existencial significa que se están ignorando los verdaderos problemas, afirma un ético de la IA.

La cumbre de IA en el Reino Unido se queda corta al enfocarse únicamente en la seguridad y el riesgo existencial, dejando de lado los verdaderos problemas, según un experto en ética de la IA.

  • La cumbre sobre la seguridad de la inteligencia artificial en el Reino Unido comienza el miércoles.
  • Algunos ya han criticado el evento por ignorar varios problemas clave.
  • Varios grupos han criticado el enfoque del gobierno del Reino Unido en los riesgos existenciales de la inteligencia artificial.

La cumbre sobre la seguridad de la inteligencia artificial en el Reino Unido comenzó el miércoles, pero el evento ya está rodeado de críticas.

Varios grupos han criticado el énfasis del gobierno del Reino Unido en algunos de los riesgos más existenciales de la inteligencia artificial, dejando de lado otras preocupaciones, quizás más urgentes.

Merve Hickok, la presidenta del Centro de Políticas de Inteligencia Artificial y Digital, dijo a Insider que la cumbre comenzó con un compromiso compartido con Estados Unidos para trabajar juntos por los valores democráticos de la inteligencia artificial.

“Luego, de alguna manera, después de las reuniones del primer ministro con las empresas de tecnología, comenzó a centrarse estrechamente solo en la crisis existencial definida por la toma de control de la IA avanzada”, dijo.

No solo se ha reducido el enfoque, agregó ella, sino que las personas en la mesa son principalmente grandes empresas de tecnología.

“La sociedad civil y otras voces y comunidades están marginadas”, dijo. “Además, todas las preocupaciones sobre los sistemas existentes de IA que están afectando nuestros derechos fundamentales también están marginadas”.

Hickok no es la única que ha planteado preocupaciones sobre la retórica actual en torno a la seguridad de la IA.

Dos destacados expertos han descartado las amenazas existenciales y algunos de los escenarios apocalípticos. Ambos han sugerido que las grandes empresas de tecnología podrían tener algo que ganar al inflar los temores más dramáticos en torno a la IA.

El Centro de Políticas de Inteligencia Artificial y Digital de Hickok escribió al primer ministro del Reino Unido, Rishi Sunak, a principios de mes para instarlo a incluir temas urgentes de “sesgo, equidad, justicia y responsabilidad” en la agenda de la reunión.

Hickok agregó que el enfoque estrecho del evento corre el riesgo de marginar estas otras amenazas para la sociedad civil.

“El Reino Unido no debería permitir que la agenda de seguridad de la inteligencia artificial desplace la agenda de equidad de la inteligencia artificial”, dijo.