利用生成式人工智能(AI)的工具现在是社交媒体平台上的特色。例如，它们将通过游戏化和突出个性化内容来促进学习。但它们也可能加剧社交媒体对易感人群心理健康的负面影响。社交媒体的用户指南和规定必须考虑到这些强烈的负面风险。
生成式人工智能可以学习用户的行为，并产生反映用户兴趣和情绪状态的内容。这可以使社交媒体通过伪个性化和模仿实时行为来瞄准弱势用户(B. Keles et al. Int. J. Adolesc. Youth 25, 79–93; 2020)。例如，它可以用来生成视频内容，其中包括用户的朋友和家人的头像，这些头像支持不健康的节食产品或做法。这利用了用户对这些关系的信任来增加他们的参与度和屏幕时间，同时忽视了潜在的后果，比如身体畸形、饮食失调和自我照顾能力差。
这种强大的个性化内容可能会使基于生成人工智能的社交媒体特别容易上瘾，通过取代锻炼、睡眠和实时社交，导致焦虑、抑郁和睡眠障碍。
参考文献：https://www.nature.com/articles/d41586-023-01693-8
