• 元宇宙:本站分享元宇宙相关资讯,资讯仅代表作者观点与平台立场无关,仅供参考。小黑屋  |   app下载
  • 注册
  • 查看作者
    • 帮一百个国家建立模型 – Stability.AI争议CEO的野望

      3月23日,饱受争议的Stability AI CEO Emad Mostaque 宣布辞职,未来将全身心投入去中心化AI事业。这一消息引起了市场上不小的震动。

      Stability.AI一方面曾独自扛起开源AI的旗帜,为开源AI做d ~ ]出了重要的贡献;另一方面又不断被指责将其他研究团队的成果b 2 Q D揽在自己头上。而CEO Emad虚假学历的曝N G 4光和在社交媒体上频繁的大话令其声誉进一步受损。曾经拥有闪耀的投资人支持和巨额融资,Stability.AI却早已深陷财务困境,命悬一线。

      辞职后,Emad透露自己仍持有Stability.Ax J Q q /I的大部分股份,足以控制董事会/ E S 6 – u P \ ~。他不是被迫辞职,而是认为在AI领域,权力的高度集中对每个人都是有害的,因此选择辞职以促进Stability.AI的改变。由于Emad有着不光彩的吹牛史,大多数人都认为事情并不仅如此简单。不过比起Stability.AI,我更想探讨Emad将要投身的去中心化AI。

      几周前,我与Emad一同参与了一场围绕去中心化AI的讨论。之后我又整理了他过去关于这一议题的诸多发言,粗略的梳理出了他的视角。

      谁控制了模型,谁就控制了思想

      如果人类的行动是由操作系统驱动,AI正快速成为这个操作系统的外` E R ?部核心组件。因为人类已经逐渐适应将思考负担外包j K \ d给AI,这个技术构成了我们思考方式的一部分。然而AI所带来的便利和赋能,也伴随着显著的风险——谁控制了AI模型,谁就一定程度上控制了这个世界的思想。

      如果大众对这些智能工具的工作! O \ F o a原理和默认设置缺乏认识,我们的决策和观点可能会悄无声息地受到影响。AI模型的控制者可以通过设定特定默认选项,潜g T ] $ H H c !移默化地引导人们的选择、观点及Z t t行为。AI作为下一个时代的基础设施,如果只被少数商业团体所控制,后果可能是灾难性的。这就是Emad所强调的,去中心化AI6 3 U I u的重要性和迫切性所在。

      每个国家都需要有自己的模型

      OpenAI投入巨大的精力在超级对齐(Super Alignmenm \ w n ^ L 1 Mt)项目时,谁来负责OpenAI本身和全世界每个国家,每个行业,每种文化的对齐?

      没有人。

      OpenAk N @ $ KI的SuperP v ^ Alignment在! M j ( r : M . n基础安全和人类共同的伦理道德方面做出了很大的努力,但面对不同国家和文化的多样性,这样的努力是否足够?不同民族和z s 9 t 8 !文化往往有着与硅谷精英迥异的价值观,而这些多元价值观能否公平地反映到AI模型中?当像肯尼亚这样的国家,他们的下一代学生开始大规模使用硅谷AI学习时,他们独特的国家文化特色是否会逐渐消失

      答案很不乐观。因此Emad认为每个国家、每个行业、每种文化,都应该拥有代表自己特色\ i \ \ A d的AI模型。这些模型应该深深扎根于当地,充分吸收和体现这个国家、行业和文化的集体智慧。这个概念大家应该也不陌生,因为两个月前* r + g s 6 G q m英伟达也在各种场合讲了主权AI的概念,本{ ] [ e ) e b q质上是一个东西。不过Emad早在一两年前就开始在各种场合来讲这个事,还是比英伟达早了很多。

      这个世界上的绝大部F 9 O t A – K }分国家根本没有能力创建自Z ! a D R J 6 \己的AI模型,而这恰恰就是Emad瞄准的市场。他希望通过创建一个底层堆栈来支持每个国家、民族、行业创建的AI模型。而在堆栈上,则希望用去中心化集体协作的方式来实现模型的发展。

      Emad曾表示可能会启动/孵化一系列的公司,每个公司会有不同的专业人才聚焦在不同的关键领域,如教育,医疗,金融,当然也包括针对不同国家的AI模型。而作为去中心化AI的实践,这些公司更多扮演的是启动器的角色。通过提供基础模型、标准化的框架,来引入社区人才参与贡献。如果能吸引到一个国家的大量优秀人才来参与贡献,这些集体智慧最终会汇聚为一k | = 3个优秀的国家K w i m 0 | T 2模型。

      核心是数据

      用一个简单的比喻,AI模型的配方就是算法和数据,然后用一些算力把它们搅拌在一起,数据越多,需要搅动这些数据的算力越大。目前市场上的绝大部分团队都在追j T Q /求更好的模型算法,拿到更多的数据,然后配以更大的算力。但实践已经证明,如果数据质量高,用更少的数据量同样能取得优秀的效果。换句话说,人们在通过堆算力给低质量数据擦屁股。

      这构成了Emad推崇的去中心V + . X V a化AI体系的一个优点G [ T。他相信,如果能建立一个结构来引导一个国家的优秀人才共同参与,n X d就能集结出高质量的国家数据集,同时这些数据可以做到可验证、所有权清晰,并可以由此设计围绕数据的激励模式。

      通过这种方式,我们能收集到过去根本接触不到的数据。这些数据不仅质量更高,能更真实和公正地代表大众的声音和需求。W H 7 a O )

      小模型集群 vs 单一大模型

      在AK K ] 1I领域,Scaling laws 几乎成了一条铁律,无论我们是否选择追求它,都无法回避它。

      很显然,采用k _ x e L J & !去中心化的方式来组织资源,再通过S+ p J ; 5 a /calling Law实现通用人工智能AGI)短期内并不现实。在相当z ? 4 ^ / h s 9长的一S : 4 [ ` i 0段时间内,以社区为导向的AI模型也难A m h t +以与像OpenAI这样的巨头竞争,争夺最强大模型的桂冠。

      然而,追求AGI和创造广泛适用的AI是两回事。随着技术的不断进步,社区驱动的中小型模型正在迅7 % K ~ J速提升能力。预计一两年之g ` U j ] ^ c F内,中小模型就足以胜任大部分日常任务。也许它不是最强,但它足够实用,成本也足够低,可以打开广阔的应用场景。就像我们买的大部分网购并不需要用顺丰隔日达一样,模型的混合使用未来会逐渐主流化。

      这就G r j s S } O带来极为重要的一个变化,当集体智慧驱动` m @的模型被广泛应用时,就大幅减少了单一大模型由单一机构控制带来的潜在风险。如果大型模型的数据出现污染,这些基于集体x % a K ^ , v智慧的模型也能轻松扮演校准器的角色,进行必要的纠正。这不仅仅是关于实用性和成本节约,更是N g ! _集体智慧与AI上帝之间的博弈。

      从技术角度看,小型模型也并不完全是劣势。规模小使得他们更容易针对垂直领域进行额外的训练。在这些领域内,尽管综合能力可能? X X V不及大型模型,但它们能作为专家级/ 1 = C工具发挥出色的性能。而一个由众多专家模型构成的小模型集群,在与单一大模型的竞争中还真不一定会输。

      更加重要的是模型小能够有效促进部署的去中心化。在谈到去中心化时,我们不仅指的是模型的建设和数据来源的去中心化,还包括治理的去中心化以及部署的去中心X A k A化。如果开源模型能很方便的部署在个人的[ G _ f o笔记本电脑甚至是手机上,这会构成AI平权。即使是中心化的服务提供者如果关! m c + P ( N H Y闭了服务,用户仍然可以依靠本地AI继续操作。让人们可以不受限的广泛使用AI也是去中心化AI的重要目标。

      AI + Web3 – 骗子还是未来

      毫无疑问,Emad正在积极推动的去% – _ 9 3中心化AI计划与加密技术密切相关。k n i 3他已经表明要设计一种We, I f J \ ^b3协议,以{ ; _ $ ] 1 ^整合并实现他的这些构想。这是因为AI领域目前缺乏的几个关键元素——数据的可验证D ^ E k J 3 ] 8性、数据所有权、大规模协调与激励机制、以及集体治理能力——正是Web3技术所擅长的领域。

      在这里我想着重提一下治理。因为从来没有一种技术像今天的人^ 1 o C工智能这样强大,并且即将广泛且深入地影响世界的各[ * * 0 ? p个角落。谁应该决定这项技术的未来方向?谁能有效地掌控它?由少数公司如OpenAI的董事会来治理人工智能一定不是最有效的方案。简单地由监管层对AI模型设置一些硬枷锁也不一定能有效应对挑战。集体治理可能才是真正的解决之道。

      在Web3领域,集体x v , V $ ` 9 9 w治理的实验正兴盛发展,覆盖了数据治理、应用治理、网络治理以及组织治理等多个层面。虽然大部分q Q p . ) k尝试仍处于探索阶C G N 0 p段,也经N g C q a / U历了多次失败,但这里是人类治理发展的最前沿。

      在过去的五年中,加密领域里,特别是围绕去中心化自治组织DR H M f P mAO),人们几乎尝试了人类历史上所有的治理模式。OpenAI采用的由非盈利基金会控制盈利公司的创新结构,在DAO里早已经被广泛实践过。在我看来,Web3世界的人们在过去几年就像是打了一场治理速通游戏。人们在短短几年内重新演绎了人类几千年的治理历程。

      一个最常见的批评是大部分Web3治理不过是把y e 8 G } O过去人类已有的治理模式复制了一遍然后加上了个链上投票。不过历史已经告诉我们,当拥有如此快的成长速度和很高的人才密度的时候,很快% W G 6 :就会进化出全新的事物。

      一个不那么恰当的例子是互联网广告。记得互联网刚刚兴起的那几年,打开新闻网站,一个巨大的全屏I Q $ .广告会突然出现然后缓慢消退,而网页上布满了密密麻麻的广告块,这成了早期互联网C T : v的标志性记忆。因为那时候人们并不知Q = R道什么是更加有效的互联网推广方式,所以干脆就是把传@ r 9 3统媒体上的广告方式简单搬到了互联网上。然而随j x y 0 o H G着场景的进步,随着人们对互联网技术以及文化理解的加深,很快就进化出了人类历史上从未有过的高效推广模式,并迅速在互联网上淘汰掉了传统广告。

      在我看来对技% k h [ v A h i术的治理也会走过类似互联% % r . @ f s网广告的路径。区块链技术带来了大幅加强的协调和治理能力,人类历史上从未有过的集N ^ H M w X D h 4体治理方案将从中生长出来,对此我充满了信心。

      写在最后

      放在当下去预测AI时代的未来以及审视Emad的全部构想,很难得出一个结论。显然,他的计划在许多层面面临巨大挑战。再加上Emad过去经常夸大其词,区分他的话哪些可以当真,哪些只是随口说说也不r a W & # 8 / 4 \太容易。

      然而探讨AI的权力结构是一个处于早期、又极其复杂且重要的议题。Emad和其他追求去中心化AI的同行们,他们; O _ U的思考,他们所做的尝试@ j O J i # , H ,,虽然可能还远未接近最终答案,但值得给予足够的尊重和关注。这些探索虽然步履艰难,却是开创未来的勇敢尝试。这些努力,无论结果如何,都将成为历史史诗中的一章。

      也许有一天,这个世界会感谢H U n 9Emad们。

    • 116
    • 0
    • 0
    • 5.1k
    • 冯家小鱼干十二婚礼摄影|J圣恩✌️……小丫么小黄瓜十分皮皮在水一方sy0822赵婧彤晓晓,大ming琳琳dididi饼饼0910白魅影凡尘雨阿尔卑蔚卸妝后依然美

      请登录之后再进行评论

      登录

      赞助商

      广告位
    • 招募优质内容创作者!

      创作者推荐

    • 漫云科技
    • Forever
      Forever
      元宇宙Pro官方人员
    • 元宇宙Pro小助手
      元宇宙Pro小助手
      官方小助手
    • 元宇宙Pro
      元宇宙Pro
      元宇宙Pro官方
    • 发布
    • 任务
    • 单栏布局 侧栏位置: