要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

官方下场最可怕，苹果iOS 18 今年又要“逼死”一批第三方应用

北京，2024年6月14日 - 据悉，苹果将于今年秋季发布iOS 18新系统，而此次更新将带来一系列重磅功能，其中一些功能可能会对第三方应用造成重大冲击，甚至让一些应用无路可走。

锁屏功能再升级，第三方应用地位堪忧

iOS 18将对锁屏功能进行重大升级，允许用户在锁屏界面直接添加小组件和进行更多操作，这对于第三方应用来说无疑是个坏消息。此前，锁屏界面一直是苹果原生应用的专属领地，第三方应用只能通过通知栏的方式触达用户。而现在，随着锁屏功能的开放，第三方应用将面临着来自苹果原生应用的直接竞争。

支付功能再整合，第三方支付或将式微

iOS 18还将进一步整合支付功能，将“Apple Pay Later”纳入“钱包”应用，并允许用户直接在App Store中使用“Apple Pay Later”进行分期付款。这对于第三方支付平台来说无疑是一个巨大的挑战。此前，第三方支付平台一直是用户在App Store中进行支付的主要方式之一。而现在，随着“Apple Pay Later”的普及，第三方支付平台的市场份额可能会受到大幅挤压。

健康数据加强管控，第三方应用难以为继

iOS 18还将加强对用户健康数据的管控，允许用户更加轻松地管理自己的健康数据。这对于第三方健康应用来说也是一个严峻的挑战。此前，许多第三方健康应用都依靠收集用户健康数据来提供服务。而现在，随着用户健康数据隐私意识的增强，以及苹果对健康数据的加强管控，第三方健康应用将很难再获取到足够的用户数据，从而难以维持正常运营。

结语

总而言之，苹果iOS 18的发布将会对第三方应用生态造成重大影响。一些功能可能会对第三方应用造成直接冲击，甚至让一些应用无路可走。第三方应用开发者需要密切关注iOS 18的更新情况，并及时调整自己的策略，以应对苹果的挑战。

以下是一些建议，可以帮助第三方应用开发者应对苹果iOS 18带来的挑战:

• 关注iOS 18的新功能和变化，及时调整自己的应用以适应新系统。
• 提高应用的竞争力，提供更加优质的服务和体验，以吸引用户。
• 加强用户隐私数据的保护，赢得用户的信任。
• 积极与苹果合作，寻求共赢之道。