痴迷系列 拜登回电莫迪跳舞？别被骗！AI作秀掀开潘多拉魔盒？
中新网2月21日电(陈彩霞) “确实一片胡言！蹙迫的是，你要把选票留到11月的选举中。本周的投票只会让共和党东谈主再次选举唐纳德·特朗普……”近期，在好意思国新罕布什尔州举行初选前，好多好意思国东谈主接到了“好意思国总统拜登”的电话留言痴迷系列，而这通电话被以为是东谈主工智能(AI)生成的“无理电话”。
跟着生成式东谈主工智能(GAI)期间的到来，“驰名不如一见”“有图有真相”渐渐被颠覆。2024年开年，好意思国OpenAI公司发布了首个文生视频模子“Sora”，在立志科技圈的同期，也让东谈主们对AI生成的假视频和假图片泛滥的担忧日新月异。强大“深度伪造”视频的出现，可能对选举等政事和安全边界产生负面影响，天下列国仍需互助来支吾这一挑战。
“AI换脸”真假难辨
多国政要“躺枪”
频年来，AI期间发展迅猛，文生图、文生视频的器用如Pika、Sora等层见叠出。而“AI换脸”也通过深度合成算法解决，为“二度创作”提供了支撑。深度伪造期间似乎愈发出格，以至多国政要也纷纷“躺枪”……
国产偷拍自拍在线2023年3月18日，好意思国前总统特朗普曾在应酬媒体上发文称，他预测我方将于2023年3月21日被捕。此音尘一出，“特朗普被捕”的“像片”在一些应酬平台马上流传开来。这些“像片”包括“特朗普被窥伺围捕”、“特朗普穿囚服”，以至还有“特朗普逃狱”，精彩过程堪比好莱坞大片。
日本首相岸田文雄曾经因“AI换脸”期间“躺枪”。2023年11月，日本又名25岁男人借助AI期间，制作了“岸田文雄开采布会”的假视频。
视频中的“岸田”身着西装，豪情弥留，口吻防范。该视频还带有日本电视台的台标和“突发新闻”字样。这条假视频上线仅一天痴迷系列，播放量就卓著230万次。
印度总理莫迪曾经陷“深度伪造”风云。2023年11月，一段“莫迪跳舞”的视频在网上疯传。视频中，“莫迪”和其他舞者身穿传统衣饰，围成一个圈，气象地跳着印度古吉拉特邦的一种节日跳舞——加尔巴舞。
莫迪亲身辟谣，称视频是AI合成的。他警告称，“东谈主们会误以为我方看见的是信得过的，这会激发浩大危急……在东谈主工智能期间，负包袱地使用期间很蹙迫。”
新加坡总理李显龙2023年底也在应酬媒体发文称，近日出现了一些驾驭他的音频制作的深度伪造视频，宣传加密货币骗局。流传的伪造视频中，李显龙提到获新加坡政府批准的投资契机，并推行了一个所谓由特斯拉首席推行官马斯克蓄意的“创新性投资平台”。李显龙敕令公众普及警惕，切勿上当上圈套。
政事“深伪”时期到来？
AI安全成焦点
除了舒适集合受众的猎奇心思和应酬需求，AI期间近来渐渐在选举中崭露头角，它与政事的和会既带来朝上，也带来“罗网”。
2023年2月，好意思国芝加哥市长选举前夜，一段“关注派民主党候选东谈主保罗·瓦拉斯利害袭击芝加哥”的视频在集合马上流传。视频中，瓦拉斯称，由于穷乏法律良善序，芝加哥照旧酿成一个“天高皇帝远”的真旷地带，况兼“窥伺随率性便就不错射杀嫌疑东谈主，东谈主们却对这些情况有眼无珠”。
不外，这段视频被诠释是AI合成。天然应酬平台终末删除了该视频，但其产生的负面影响仍无法排斥，瓦拉斯也在市长选举中不懊恼手布兰登•约翰逊。
《本日好意思国报》征引布鲁金斯学会期间创新中心高档盘问员达雷尔·韦斯特的话称，“2024年的好意思国大选，将会出现东谈主工智能(AI)生成的无理信息‘海啸’。咱们已看到这种情况，且情况将会变得更糟。”
好意思国政府监管组织“捍卫公众利益组织”恬逸东谈主罗伯特•韦斯曼也称，政事“深度伪造”时期照旧到来，战略制定者必须尽快接纳保护看成，不然将靠近“选举紊乱”。
对于AI可能被用来误导选民和坏心误会选举的担忧，在2024年这个“内行超等大选年”急剧高潮。
2月16日，OpenAI、亚马逊、谷歌、微软、TikTok、脸书的母公司“元”、应酬平台X(原推特)等内行多家最初的科技企业，在第60届慕尼黑安全会议(慕安会)上签署公约，痛快在2024年这个多国举行蹙迫选举的年份，通过时间部署，减少驾驭东谈主工智能生成和分发糊弄性践诺侵犯选举的风险。
“政府需要在东谈主工智能边界饰演蹙迫脚色，确保开采安全障蔽和护栏痴迷系列，让产业内东谈主士知谈，哪些能作念，哪些不可作念。”好意思国奢靡者期间协会首席推行官夏皮罗如是说谈。(完)
