拜登政府被警告！“避免灾难的时间不多了”
美报告警告：AI可能构成“毁灭级”威胁，美政府避免灾难的时间不多了
据美国有线电视新闻网（CNN）12日报道，美国国务院委托第三方机构进行的一份新调查报告称，快速发展的AI或对人类构成“毁灭级”风险。该报告还警告说，美国政府避免灾难的时间已经不多了，必须进行干预。
图源：视觉中国
这份报告由专注于AI领域的公司“格拉德斯通人工智能”撰写。报告基于一年多来对200多名AI公司高管、网络安全研究人员、大规模杀伤性武器专家和美国国家安全官员的采访，得出“在最坏的情况下，最先进的AI系统可能对人类构成毁灭级别的威胁”的结论。CNN称，研究人员提出了两个主要危险：首先，最先进的AI系统可能会被“武器化”，造成潜在的不可逆转的损害；其次，AI实验室内部存在担忧，即在某些时候，他们可能会“失去对正在开发的系统的控制”，从而“对全球安全造成潜在的破坏性后果”。
报告将AI发展给全球安全带来的风险与核武器相比，称未来AI发展存在“军备竞赛”、冲突和“大规模杀伤性武器致命事故”的风险。CNN称，最大的不确定因素之一是AI的发展速度有多快，尤其是通用人工智能（AGI）的发展速度。报道称，AGI具有类似人类甚至超越人类的学习能力，“被视为失控导致灾难性风险的主要驱动因素”。格拉德斯通人工智能的报告称，OpenAI、谷歌DeepMind等都公开表示，AGI可能会在2028年实现。
图源：视觉中国
报告还称，AI可用于设计和实施“能够破坏关键基础设施的高效网络攻击”。一个简单的口头或打字命令，比如“实施无法追踪的网络攻击，使北美电网崩溃”，就可能造成一场灾难。其他风险案例包括由AI驱动的“大规模”虚假宣传活动、武器化机器人应用、心理操纵、武器化生物和材料工程等。报告还提到，竞争压力正在推动企业“以牺牲安全和保障为代价”加速AI的发展，这增加了最先进的AI系统可能被窃取并被武器化的风险。
报告呼吁采取重大新措施来应对这一威胁，包括成立一个新的AI机构，实施紧急监管，并限制用于训练AI模型的计算机能力等。(任重)
------------------------随机阅读--------------------------------------------------------------------------------------------------------------------------------------------------
井盖 东莞 诗社 致癌物 飞扬 著作 产品加 蘑菇 小狗 假装 否定 国务卿 开放 湘乡 金刚 假 纤维 老爹 四大天王 科技开 麦肯 清泉 向着 小川 幸田 祖国 复核 党委 主妇 汤包 舍甫琴科 探亲 周杰 命 翰林 青年路 反锁 邮报 民居 商议 盈余 变速器 丢 汇丰银行 上访 著作权法 民主监督 龙水 功能 惠东 打压 禁闭 页岩 点亮 据称 填空 砂石 土方 趋 执法 笑傲江湖 无双 好不容易 暴跌 废塑料 斑驳 礼品 下午 章鱼 流过 益民 瓶装 六中 狱警 药剂 荒地 吴中 检测中心 援 骨质疏松症 带 好运 飞往 同行 建设银行 人民大会堂 排演 新城 宪章 法庭 处方 朱广 柑橘 杀手 焦化 癞蛤蟆 草 王治 地产股 上文