拜登签署首项人工智能监管行政令

美国总统拜登于10月30日在白宫签下了一项行政令，正式为人工智能安全设立了新标准。美国媒体称之为拜登对人工智能技术的重大有约束力的行动，标志着美国在人工智能监管方面迈出了重要的一步。

这一行政令被誉为“里程碑式”的举措，旨在保护美国公民的隐私、促进公平和公民权利，维护消费者和工作者的权益，以及推动创新和竞争。令中要求，美国最先进的人工智能系统的研发者需与分享其安全测试结果以及其他关键信息，以确保人工智能系统的安全和可靠性。

该行政令还强调了以下几点重要内容：

1. 制定严格的标准和测试工具，确保人工智能系统的安全、可靠，防范使用人工智能设计危险生物材料的风险。

2. 建立检测人工智能生成内容和验证官方内容的标准和最佳实践，以帮助公众识别和防范人工智能驱动的欺诈。

3. 制定先进的网络安全计划，利用人工智能工具来查找和修复关键软件漏洞。

4. 研发制定“国家安全备忘录”，为人工智能和安全方面的进一步行动提供指导。

美国国家标准与技术研究所将制定严格的人工智能“红队”标准，并强调美国国土安全部将把这些标准应用于核心基础设施项目，并成立人工智能安全委员会。美国能源部和国土安全部将应对人工智能系统对关键基础设施的威胁，以及由此产生的化学、生物、放射性材料、核和网络安全风险。

值得注意的是，“红队”测试是网络安全中的关键实践，由专家团队模拟真实世界的对手及其策略，以测试和增强系统的安全性。这项行政令的签署将无疑对人工智能的发展和应用产生深远影响。