2024年对人工智能（AI）行业而言，既充满机遇，也充满挑战。随着生成式AI的广泛应用，我们见证了一些令人震惊的“AI事故”，这些事件展示了技术进步与滥用之间的紧张关系。以下是一些显著的AI事故案例，反映了生成式AI在多个领域的潜在风险和滥用情况。1. AI内容垃圾的泛滥生成式AI的普及使得大规模生成内容变得容易，然而，这也带来了大量低质量的“AI内容垃圾”。这种低门槛的生成方式，导致了互联网上大...
大屏时代（dapingtime.com）讯：2025年1月17日，人工智能（AI）技术的滥用再次引发社会关注。法国一名53岁女子近日揭露，她在与一名假扮荷里活明星毕彼特（Brad Pitt）进行的网恋中，遭遇了高达70万英镑（约666万港元）的诈骗。令人震惊的是，骗子利用AI技术不仅假冒毕彼特，甚至还分身假扮奇洛·李维斯（Keanu Reeves）进行诈骗。根据Find My Scammer网站的...
微信珊瑚安全团队发布了《关于打击利用AI仿冒知名人士进行营销宣传的公告（第二期）》，宣布平台在过去一个月里处置了超过12,000条违规内容，并关闭了3281个账号。此次行动凸显了微信平台对AI技术滥用行为的高度关注和决心，旨在为用户创造更加安全、清朗的网络环境，避免不法分子借助先进的技术手段误导消费者、侵犯用户权益。AI仿冒行为：新型网络威胁的“冰山一角”近年来，AI技术的快速发展催生了许多创新的...
2025年2月13日，随着人工智能技术的迅猛发展，深度伪造视频在互联网上迅速走红，而其中涉及的名人肖像问题也引发了广泛关注。美国著名女演员斯嘉丽·约翰逊近日公开呼吁政府采取更严厉的法律措施，遏制人工智能滥用，特别是深度伪造技术的广泛应用。约翰逊在接受《人物》杂志采访时，强烈表达了她对AI技术带来的潜在威胁的担忧。她指出，尽管美国政府对保护公民免受人工智能可能造成的危险应当立法，但实际的行动却迟迟没...
在人工智能技术迅速发展的背景下，AI深度合成技术的滥用问题日益严重。从恶搞企业家雷军，到利用人工智能（AI）制作的张文宏医生音视频进行不当营销，再到不法分子通过AI深度合成视频实施诈骗，人工智能的滥用正在成为各界关注的焦点。去年，著名演员刘德华的声音被不法分子通过AI合成技术盗用，用来博取流量，甚至在社交平台上进行虚假宣传。刘德华的电影公司紧急发布声明，警告网友不要落入伪造刘德华声音的骗局。随着技...
