AI已经擅长欺骗人类，其阴暗面令人震惊
AI已经擅长欺骗人类，其阴暗面令人震惊在过去几年中，人工智能（AI）技术的发展一日千里，展现出令人惊叹的能力。从击败人类顶尖棋手，到生成逼真的人脸图像和语音，再到如今以ChatGPT为代表的一众聊天机器人，AI系统已经逐渐渗透到我们生活的方方面面。
来自主题: AI资讯
9296 点击 2024-05-23 09:43
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
在过去几年中，人工智能（AI）技术的发展一日千里，展现出令人惊叹的能力。从击败人类顶尖棋手，到生成逼真的人脸图像和语音，再到如今以ChatGPT为代表的一众聊天机器人，AI系统已经逐渐渗透到我们生活的方方面面。
AI技术的发展已经逐渐渗透到了各个领域，电影和电视剧的制作方式也在发生着翻天覆地的变化，AI换脸技术更是成为影视圈中备受瞩目的一环。
在 OpenAI 发布 Sora 之后，很多人惊呼人类已经迈入 AI 视频时代。除了一次次震惊世界的 AI 视频生成能力展示之外，海外网友讨论的最多的话题，还有「未来该如何避免虚假视频充斥着我们的生活」？
人工智能诈骗已成现实，引人忧虑。近几个月来，人工智能接连浮现，我们频繁在新闻标题中看到如下字眼：AI 泄露了公司代码，还根本就删不掉；AI 软件侵犯了用户的人脸信息隐私；某大模型产品被曝泄露私密对话……等等。
一家跨国公司香港分公司的财务人员被Deepfake假CFO骗走了1.8个亿人民币。通过视频会议，骗子使用了模仿真人的数字克隆技术，以及虚拟形象下达指令进行诈骗。
这几天，古老的AI应用——「AI换脸」多次破圈，屡屡登上热搜。
AI诈骗正在爆发， 据迈克菲安全技术公司最新报告， 受到AI诈骗， 77%的人会遭受经济损失。
IT之家从绍兴市中级人民法院公众号获悉，日前，上虞法院开庭审理并当庭宣判了一起团伙利用 AI 技术合成虚假视频以牟取非法利益的编造、故意传播虚假信息案。
当前，AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务，也给网络诈骗带来可乘之机。国家金融监督管理总局发布消费者权益保护风险提示，提醒广大金融消费者警惕新型诈骗手段，维护个人及家庭财产安全。
从行文流畅的诈骗短信到克隆声音和在视频中换脸，生成式人工智能正在为欺诈者提供强大的新武器。