La ONU insta a la comunidad de desarrolladores de Inteligencia Artificial a priorizar la ética y los derechos humanos sobre las ganancias económicas en una reunión clave sobre el impacto de la IA en la desinformación, el discurso de odio y los riesgos para la seguridad.
Impacto de la Inteligencia Artificial, “ONU advierte”
La IA generativa, si no se maneja con responsabilidad, podría amplificar peligrosamente los daños en línea, desde la distribución masiva de desinformación convincente hasta la manipulación en elecciones y la creación de contenido dañino.
La reunión, que contó con la presencia de expertos digitales y representantes de diferentes países, destacó la preocupación de la ONU por cuatro áreas críticas:
TAL VEZ TE INTERESE: Los GPTs personalizados: 17 mejores creaciones de la Inteligencia Artificial
- Paz y seguridad: La desinformación impulsada por la IA amenaza las operaciones humanitarias y de paz de la ONU, poniendo en riesgo a su personal y a civiles.
- Violaciones de derechos humanos: Se utiliza para crear y difundir contenido dañino, incluido material de abuso sexual, imágenes no consentidas y contenido xenófobo y racista.
- Riesgo para la democracia: La manipulación de votantes y la influencia en la opinión pública durante las elecciones plantean una amenaza significativa para los procesos democráticos.
- Socavar la ciencia e instituciones públicas: La IA puede intensificar campañas de desinformación prolongadas que socavan la acción climática y la información científica.
La ONU está tomando medidas, incluyendo la creación de un Órgano Asesor de IA y un código de conducta para la integridad de la información.
Melissa Fleming subraya la importancia de un enfoque equilibrado que aproveche los beneficios de la IA mientras se mitigan sus riesgos, asegurando la creación de ecosistemas de información saludables para sociedades estables y unidas.
TAL VEZ TE INTERESE: Inteligencia Artificial: Modelos acelerados crean imágenes y vídeos en segundos
El llamado es claro: es fundamental que los desarrolladores de IA prioricen el bienestar de las personas sobre las ganancias económicas, garantizando que la tecnología se utilice para el progreso humano y no para amplificar amenazas y desigualdades.