Dans un rapport dédié aux effets concrets des systèmes d’IA générative pour les droits humains, Amnesty International estime que les modèles construits à partir de la récolte non consentie de données disponibles en ligne violent le droit à la vie privée, à la non-discrimination, et créent de nouveau risques pour le droit à la non-discrimination et les libertés d’expression et de pensée.

Les modèles d’IA génératives « entraînés grâce à des pratiques illégales de web scraping » sont « incompatibles avec le droit à la vie privée » tel que défini, notamment, par le Pacte international relatif aux droits civils et politique (