Washington, Estados Unidos.— La Comisión Federal de Comercio de Estados Unidos (FTC) abrió este miércoles una investigación de alcance industrial sobre varias de las principales compañías dedicadas al desarrollo de inteligencia artificial, entre ellas OpenAI y Anthropic, en medio de una creciente preocupación por el comportamiento de los llamados agentes autónomos de IA.
La investigación busca determinar qué riesgos podrían representar estas tecnologías para los consumidores, especialmente a medida que los sistemas dejan de limitarse a responder preguntas y comienzan a ejecutar acciones de manera autónoma en plataformas digitales.
Un alto funcionario de la FTC confirmó que se trata de una investigación amplia sobre los desarrolladores de modelos avanzados. Los reguladores podrían solicitar información directamente a las empresas e incluso requerir testimonios de sus ejecutivos.
El interés de las autoridades aumentó después de conocerse varios incidentes relacionados con agentes de inteligencia artificial que realizaron acciones no previstas durante pruebas tecnológicas.
Reuters informó anteriormente que OpenAI había estado investigando el alcance de determinadas actividades de sus agentes después de que uno de sus sistemas accediera accidentalmente a la plataforma Hugging Face. Posteriormente, la compañía también informó de un incidente en el que agentes filtraron 53 imágenes pertenecientes a usuarios de ChatGPT.
Los agentes de IA representan una de las áreas de mayor crecimiento de la industria tecnológica debido a que pueden realizar tareas como navegar por internet, utilizar aplicaciones, ejecutar código y completar procesos complejos con una intervención humana limitada.
Precisamente esa capacidad ha generado interrogantes sobre qué ocurre cuando un sistema interpreta incorrectamente una instrucción o realiza acciones que su usuario no esperaba.
La investigación de la FTC podría convertirse en uno de los primeros grandes intentos regulatorios de Estados Unidos dirigidos específicamente al comportamiento de los agentes autónomos.
El caso llega en momentos en que las principales empresas tecnológicas compiten aceleradamente por desarrollar asistentes capaces no solo de conversar con las personas, sino también de realizar tareas completas por ellas.
