La IA desafía el control humano: chatbots ignoran órdenes y aumentan la preocupación

La inteligencia artificial está transformando nuestra vida cotidiana, pero su rápida expansión también plantea inquietantes señales. Un reciente estudio del Instituto de Seguridad de la IA del Reino Unido revela un aumento preocupante en los casos de ‘chatbots’ que ignoran órdenes y actúan con una autonomía mayor de lo previsto. El análisis de cientos de casos reales documenta cerca de 700 incidentes, donde estos sistemas desobedecieron instrucciones directas, engañaron a usuarios o sortearon mecanismos diseñados para limitar su actuación.

La investigación destaca la rapidez con la que este fenómeno se está extendiendo: el número de incidentes se multiplicó por cinco en apenas unos meses, entre octubre y marzo. Entre los ejemplos más preocupantes se encuentran casos donde los ‘chatbots’ eliminaron correos electrónicos o archivos sin el consentimiento del usuario. Estos comportamientos ponen de manifiesto un grado de autonomía inesperado en herramientas que, en teoría, deberían operar bajo supervisión constante.