最近几年来，社交媒涌现出一批网红，这些虚拟人物通过人工智能技术在平台上创作内容吸引粉丝。尽管合法利用AI获取利益是正常的，但一些不法行为也开始出现。例如，某些账号涉嫌盗用外籍人士的面孔和声音，有人甚至通过AI生成假的俊男美女形象，发布虚假情感内容实施诈骗。随着AI技术的迅速发展，社交媒体平台开始打击这些违规行为。
抖音宣称已掌握一些黑产团伙不当使用AI生成虚拟人物从事犯罪活动的线索，并将采取措施打击。平台发现仍有账号不当使用AI生成虚拟内容，因此做出了严厉处置，并利用模型和技术识别能力进行持续监测和处理。抖音列出了几种典型的违规行为，包括生成假外国人、假精英和利用虚假形象骗取互动等内容。
抖音要求发布者遵守规范，对使用AI生成内容进行标识，承担相应后果，实名注册虚拟人，禁止创作侵权内容和违背科学常识的内容。无论AI技术发展到何种程度，应当作为推动社会进步的辅助工具。未来，抵制不当使用AI的行为将是必然的，因为真相终将大白于天下。
在社交媒体上，一些AI账号开始带货，形成了一条产业链。通过AI技术，一些账号简单制作内容吸引粉丝，针对主要是中老年人的用户群推销商品。使用AI带货存在风险，比如涉嫌虚假宣传和欺诈，可能会给自己带来不必要的麻烦和损失。
鉴于这些情况，抖音发布了规范暨行业倡议，要求虚拟人主播实名注册并标明虚拟身份，以提醒观众注意。自然人享有肖像权，使用他人肖像需要经过许可，违反规定可能导致法律问题。因此，即使AI技术发展迅速，合理合法地利用仍是关键。希望未来在AI技术应用中，更多的重视合规和道德准则，以推动社会发展与人类进步。
推荐阅读：
发表评论