释放双眼，带上耳机，听听看~！
议题1：站在黑客的角度，你们认为未来 GPT 可能失控吗？
王书辉认为，从算法方面讲，想让大模型变得可控是有一定挑战的，因为它本质上是神经网络，像上下文学习、思维链这些能力是从哪里涌现的还没有确定的结论。但我们知道的是人类的大脑有860亿个神经元，大约6000万亿的连接，让人类拥有了自主的意识，相信在不久的将来，大模型也会到达这个参数量级。也许未来的某一天我们忽然发现身边的AI存在了自主意识，而我们却无法解释，这其实是非常恐怖的事情。所以目前有非常多的科学家都在探究避免模型失控的方法。比如现在学界很火的对齐工程，大家都在围绕间接规范性、可扩展监管，或者是人类反馈强化学习等领域进行研究。
因此，为了避免AI的失控，我们需要对齐工程和其他工作来保障AI系统的目标和行为方式是与人类的价值观和伦理标准保持一致，只有这样才能尽可能地降低未来GPT模型失控的风险。
在GEEKCON活动中，云起无垠展示了其在前沿技术领域的最新研究与突破，并与众多参会嘉宾积极探讨了新技术的应用。作为新一代AI赋能软件供应链安全实践者，云起无垠以“让软件更安全，让安全更智能”为企业使命，成立以来，一直专注于网络安全领域的技术研究与创新。创始团队一直秉承着“极客精神”，追崇原创和新奇，走在技术领域的最前端，期望通过自身研究与创新，为行业的发展带来新的思路和突破点。也正如此，云起无垠在此次活动中脱颖而出，荣获了“前沿突破奖”。
