Dans quelle mesure ce stagiaire – et la plupart des stagiaires ont besoin de plus de supervision qu’un employé traditionnel – a-t-il été surveillé ? Si je voulais satisfaire les bailleurs de fonds, surtout lorsque ByeDance est sous la pression américaine pour vendre le très lucratif TikTok, je ne voudrais pas annoncer que mon équipe a laissé cela se produire.
Ce qui est encore plus troublant, c’est que ce stagiaire était techniquement capable pour ce faire, indépendamment de la supervision. La leçon ici est une leçon que l’informatique connaît déjà, mais qu’elle essaie d’ignorer : les outils d’IA générative (genAI) sont impossibles à contrôler de manière significative et les garde-fous sont si faciles à franchir qu’ils sont une plaisanterie.
Le problème avec genAI est que la même liberté et la même flexibilité qui peuvent rendre la technologie si utile la rendent également si facile à manipuler pour faire de mauvaises choses. Là sont des moyens de limiter ce que feront les outils basés sur LLM. Mais premièrement, ils échouent souvent. Deuxièmement, la direction informatique hésite souvent à essayer de limiter ce que les utilisateurs finaux peuvent faire, craignant de détruire les gains de productivité promis par genAI.
