El Consejo de Inteligencia Artificial y Tecnologías Digitales de Francia (CIANum) pidió a las autoridades del país que endurezcan con rapidez las normas aplicables a los asistentes conversacionales, con atención especial a los que utilizan niños y adolescentes.
La petición figura en un informe difundido el 10 de noviembre. En él, el organismo advierte de los peligros de un uso excesivo de estas herramientas y menciona tres riesgos principales: la dependencia afectiva, la manipulación psicológica y el aprovechamiento comercial de los datos personales de los usuarios.
Las medidas que se proponen
Entre sus recomendaciones, el Consejo plantea que estos asistentes se identifiquen con claridad como sistemas de inteligencia artificial. También propone que ciertas características antropomórficas, es decir, rasgos que imitan el comportamiento humano, estén desactivadas por defecto.
El informe pide además reforzar los mecanismos capaces de detectar situaciones de vulnerabilidad entre los usuarios y ofrecer mayor transparencia sobre las fuentes y las respuestas que generan estos sistemas.
Un debate en plena expansión
La iniciativa llega cuando la inteligencia artificial gana peso en la educación, la comunicación y el trabajo. Para las autoridades francesas, el reto consiste ahora en fomentar la innovación tecnológica y, al mismo tiempo, proteger a los usuarios, en particular a los más jóvenes, frente a posibles abusos.
