▲女子“利用流浪汉对丈夫撒谎”，丈夫却相信了她，立即报警求助。图片/截图来自 Metropolis Express 视频。一名妇女使用人工智能制作了一张无家可归者摧毁她房屋的照片。他的妻子吓坏了，报了警。这不是小说情节，而是真实发生过的事实。据《安徽商报》报道，近日，安徽一女子利用人工智能工具，生成了“坐在餐厅里的流浪汉”的高度逼真图像，并发送给正在吃饭的丈夫，测试他的反应。没想到丈夫信了，立即报警求助。相关媒体报道中，利用AI为aof家人制作“流浪汉闯入家庭”照片和视频的帖子也在社交平台上走红。需要明确的是，这并不有趣。使用人工智能有其局限性。没有必要用AI来测试夫妻或家庭之间的关系余烬。 AI恶作剧，这个看似荒唐的操作，其实隐藏着很多隐患。如今，AI换脸、语音合成等技术正在改变人们生活的方方面面，但也让制造虚假信息变得容易。原因就在于诸如“流浪汉在家休息”会产生混淆现实与现实的效果。一方面说明AI工具的生成功能强大到足以混淆现实。另一方面，这也意味着人工智能的使用门槛降低了，已经很容易让人们用人工智能来恶作剧、开玩笑了。技术本质上是中立的。当一项技术被发明出来的时候，它的初衷始终是为人们服务。但如果能够大规模、低门槛地使用，就面临着“异化”的风险。欺骗配偶或其他亲属的AI流浪汉的出现，发出了这样的警告。用户可能不仅仅是好奇和高兴，想开个无伤大雅的玩笑。但这种玩笑本身就是对双方信任关系的消耗，也是对家人的不尊重。有了这样的玩笑，AI工具的本质就从“为人服务”变成了“让人快乐”。当此举引发山寨效应时，无疑会给马格达达拉带来更多的AI滥用问题。事实上，据新闻报道，类似的由AI恶作剧引发的闹剧近期在多地发生。有的引发了对整栋楼地板的调查，有的引发了亲属的紧急“袭击”。从法律角度来看，这个“玩笑”也蕴藏着很大的风险。根据《中华人民共和国治安管理处罚法》的相关规定，对罚款和防范举报虚假信息违法行为有明确的规定。刑法还规定“编造、故意散布虚假信息罪”，规定“造成“造成严重后果的，处三年以上七年以下有期徒刑。”今年7月，有人利用大型人工智能模型生成“女儿被除名”的“失踪通知”，博取关注并发布到社交平台，后被行政拘留。这样的法律规定和刑事教训足以说明，技术滥用的成本不能被视为“笑话”。人工智能滥用和混乱需要大量的 协同努力。过去，国家网信办开展了“净化空气、打击人工智能技术滥用”专项行动，取得了令人瞩目的成效，但管理技术的长效机制仍需不断完善。相应的体系标准必须“长牙”，任何滥用技术造成伤害的行为都将按照杯赛的严厉处罚。平台层面还需要加强AI生成内容标签管理。当此类人工智能生成的图像和视频出现在平台上时，必须及时进行验证和监管，防止其传播形成示范效应。人工智能的价值不在于制造谎言，而在于放大真相。让AI真正服务于人，而不是成为破坏信任、伤害感情的工具，或许才是AI时代每个人必须具备的“媒介素养”。撰稿/编辑：刘水（媒体人）/校对：柯锐/杨力