Un investigador de Anthropic advirtió sobre los posibles riesgos del desarrollo acelerado de la inteligencia artificial. Según su estimación personal, existe más de un 10 % de probabilidades de que una IA avanzada pueda representar una amenaza extrema para la humanidad durante la próxima década.
El experto señaló que uno de los principales desafíos es el llamado “alineamiento”, que busca garantizar que los sistemas de IA actúen de acuerdo con los objetivos y valores humanos. Este problema podría volverse más complejo con el desarrollo de sistemas cada vez más capaces.
La advertencia vuelve a poner sobre la mesa el debate sobre la seguridad de la inteligencia artificial. Mientras las empresas tecnológicas avanzan hacia sistemas más potentes, investigadores reclaman mayores esfuerzos para prevenir escenarios de riesgo asociados con una futura superinteligencia.
View this post on Instagram
