人工智能安全前沿：历史、应用与挑战

人工智能安全前沿课程由广州大学网络空间先进技术研究院的顾钊铨教授于2020年6月13日主讲，旨在梳理人工智能安全领域的关键研究进展。课程首先回顾了人工智能的快速发展历程，从AlphaGo战胜李世石、柯洁等围棋高手的胜利开始，展示了深度学习和强化学习在人工智能领域的突破。这些成就不仅提升了人工智能的性能，也引发了关于安全性的关注。 课程着重分析了人工智能安全的三个主要方面： 1. 人工智能内生安全：随着AI技术的进步，如何确保AI系统的自我学习过程不会产生恶意或意外的结果成为关注焦点。AlphaGoZero和AlphaZero的不断升级，展示了AI自我学习能力的同时，也提出了对于AI训练数据、决策透明度和公平性的安全考量。 2. AI助力安全：人工智能可以被用于提升网络安全，例如通过机器学习来检测威胁和异常行为。OpenAI在Dota2和星际争霸中的胜利，显示了AI在复杂游戏环境中的应用，同时也涉及到对这些系统的安全性评估。 3. AI衍生安全：AI在团队协作游戏中的应用，如王者荣耀的觉悟AI，强调了智能系统的集体决策能力和潜在风险。如何防止AI被恶意利用，以及如何保护用户隐私和数据安全，是这一领域的重要议题。 课程中提到的人工智能发展的三次高峰，从早期的符号处理和搜索法，到专家系统的兴起，再到深度学习时代的到来，每一次飞跃都伴随着新的安全挑战。教授还提到了图灵测试和人工智能术语的诞生，这表明人工智能不仅仅是技术进步，也是一个持续发展的领域，其安全问题需要跨学科的研究和持续的关注。 在总结部分，课程探讨了几个极具潜力的研究问题，比如如何构建可解释的AI决策机制、如何设计对抗AI攻击的防御策略，以及如何在AI伦理框架下推动其健康发展。整体而言，这是一次深入探讨人工智能安全前沿的宝贵讲座，对于理解和应对未来AI安全挑战具有重要意义。