用户无法得知其图片的下落。专家警告了数据泄露的风险，因为与详细面部特征相关的真实照片可能被重复用于欺诈、勒索或伪造，并且这些数据变得不可逆转。风险在于图片的保留，这些图片在处理后不会立即删除，而是临时存储、用于训练模型或根据模糊的使用政策与第三方共享。此外，通过社交媒体将图片与数字身份关联，会将面部与姓名和数字行为联系起来。最近，社交媒体平台，尤其是Facebook，掀起了一股基于人工智能的新趋势，该趋势将个人照片转化为模仿面部特征的讽刺性卡通，预测用户的职业，并将其视觉上整合到一个幽默的场景中。专家警告了这种娱乐活动带来的真实技术和安全风险，称隐私现在受到威胁。当图片用于训练模型时，它成为改进人脸识别的庞大数据库的一部分，即使在删除账户或应用程序后，它可能仍保留在模型中。他们强调，问题不在于人工智能，而在于其未经深思熟虑的使用。
