4月4日，一则关于AI助手“豆包”用户账号被封禁的消息引发关注。据徽声在线报道，一名男性用户将个人私密照片，包括洗澡时的照片等不雅内容，发送给豆包并请求AI对其身材进行评价。更有消息指出，该用户还存在视频裸露的不当行为。这些行为严重违反了平台的内容安全规定，触发了平台的风控机制，系统判定其发送了违规内容，该账号因此被停用，解封时间显示为2026年5月。

针对此类事件，豆包官方作出明确回应。官方表示，对于发送不雅内容、恶意骚扰等违规行为，系统会自动进行识别并采取相应处理措施，处理方式包括限制账号使用或者永久封禁账号。虽然有部分用户觉得AI助手的内容审核完全依靠算法，但实际情况并非如此。多方信息显示，平台采用的是“AI初筛 + 人工复核”的双重审核机制。当AI算法无法准确判断内容是否敏感时，会将相关内容推送至后台审核员进行人工核查。这意味着，用户发送的不当内容不仅会违反平台规则，还可能给审核人员带来心理上的不适，进而引发一系列伦理方面的争议。

编辑：张晚晴