BANK:ChatGPT为什么这么强

1.从周五到周末ChatGPT已经疯传开来,其对话能力让人惊艳。从玩梗、写诗、写剧本,到给程序找bug,帮人设计网页,甚至帮你生成AIGC的提示词,一副无所不能的样子。可以去Twitter上看BenTossell梳理的一些例子,或者自己去试试!一位MBA老师让ChatGPT回答自己的管理学题目,结论是以后不能再布置可以带回家的作业了。很多人用了以后无法自拔,就如这位所见:

Musk问ChatGPT怎么设计Twitter(不得不说还挺有创意):

2.有人让ChatGPT参加了智商测试,得分83;SAT测试得分1020,对应人类考生52%分位。要知道ChatGPT并没有对数学方面做过优化,已经是相当不错的结果了。

彭博社:Signature Bank实时加密支付网络Signet目前运转正常:金色财经报道,Signature Bank实时加密支付网络Signet在公司被接管后仍正常运转。

据悉,Signet是一个基于区块链的系统,为加密市场提供24/7法币兑换服务,是Silvergate旗下SEN网络(已暂停运行)的竞争对手,其用户包括Circle、Coinbase等加密公司。Signet使用Tassat开发的技术,为银行构建私有区块链。[2023/3/14 13:02:52]

3.ChatGPT的提升点

相比之前的GPT-3,ChatGPT的提升点在于能记住之前的对话,连续对话的感觉让人舒服。

ChatGPT可以承认错误,如果你认为他的回答不对,你可以让他改正,并给出更好的答案。

ChatGPT可以质疑不正确的前提,GPT-3刚发布后很多人测试的体验并不好,因为AI经常创造虚假的内容,而现在再问“哥伦布2015年来到美国的情景”这样的问题,AI已经知道哥伦布不属于这个时代了。

LevelField将收购Burling Bank,寻求成为提供加密服务的FDIC承保银行:2月2日消息,LevelField周三表示,其寻求在收购Burling Bank后成为第一家提供数字资产服务的FDIC保险银行。LevelField是提供全方位服务的银行,计划为其客户提供与加密货币相关的服务以及一系列传统银行服务。此次收购预计将在今年年底完成,等待监管部门批准交易。交易的财务条款尚未披露。

Burling Bank的高级管理团队将在收购后留在银行。高级团队将与LevelField的现有团队合作,在全国范围内发展银行的业务。

尽管LevelField有可能成为第一家提供加密服务的FDIC承保银行,但这并不意味着该银行一定会提供更安全的方式来投资波动较大的数字资产。如果银行倒闭,FDIC保险可保护银行储户免受高达250,000美元的损失,但加密货币仍在FDIC未投保的资产类别中。(CoinDesk)[2023/2/2 11:43:01]

ChatGPT还采用了注重道德水平的训练方式,按照预先设计的道德准则,对不怀好意的提问和请求“说不”;当然,尽管OpenAI非常小心,这种准则还是可能被聪明的提问方式绕开。

4.ChatGPT的训练方法

当下大模型的工作范式是“预训练-微调”。首先在数据量庞大的公开数据集上训练,然后将其迁移到目标场景中,通过目标场景中的小数据集进行微调,使模型达到需要的性能。微调/prompt等工作从本质上对模型改变并不大,但是有可能大幅提升模型的实际表现。人类问问题方式对于GPT-3而言不是最自然的理解方式,要么改造任务,要么微调模型,总之是让模型和任务更加匹配,从而实现更好的效果。

LBank蓝贝壳于4月16日17:00 VAL,开放USDT交易:据官方公告,4月16日17:00,LBank蓝贝壳VAL(Vswap),开放USDT交易,上线同一时间开放充值,4月17日17:00开放提现。

资料显示,Vswap是一个集合多链钱包,多链去中心化交易,两层DEX,NFT拍卖市场的defi经济综合体。

Vswap拥有质押、加密资产存管,交易,NFT作品收藏,加密资产保险等多种类业务。它创建以来得到了来自全球52个国家数十万用户的支持和喜爱。[2021/4/15 20:23:05]

ChatGPT是22年1月推出的InstructGPT的兄弟模型。InstructGPT增加了人类对模型输出结果的演示,并且对结果进行了排序,在此基础上完成训练,可以比GPT-3更好的完成人类指令。ChatGPT新加入的训练方式被称为“从人类反馈中强化学习”。

ChatGPT是基于GPT-3.5模型,训练集基于文本和代码,在微软AzureAI服务器上完成训练。原先GPT-3的训练集只有文本,所以这次新增了代码理解和生成的能力。

5.为什么ChatGPT的提升这么明显

LBank 蓝贝壳TRIBE项目上线最高涨幅达536%:4月4日LBank 上线 TRIBE,开放 USDT 交易。TRIBE 开盘价格为0.38 USDT,当前最高报价为2.4183 USDT,最高涨幅536%,截止发稿价格稳定在2.2 USDT。资料显示 FeiProtocol 支持创建基于以太坊的去中心化、可扩展且公平的稳定币。TRIBE 是该协议的治理代币。 注:信息仅供分享,不构成任何投资建议。[2021/4/4 19:45:23]

除了带有记忆能力、上下文连续对话能带给人显著的交互体验提升,ChatGPT的训练方式也值得关注。上述提到的RLHF方法首见于22年3月发表的论文(Traininglanguagemodelstofollowinstructionswithhumanfeedback),但根据业界的推测,RLHF并未用到InstructGPT的训练中。InstructGPT所用到的text-davinci-002遇到了一些问题,会呈现出模式坍塌(modecollapse)现象,不管问他什么问题,经常收敛到同样的答案,比如正面情绪相关的回答都是跟婚礼派对相关。

这次RLHF的方法得以在ChatGPT上应用,并取得了很好的效果。但RLHF实际上并不容易训练,强化学习很容易遇到模式坍塌,反馈过于稀疏这类问题,训练起来很困难。这可能也是为什么论文在3月发表,ChatGPT在12月才上线,中间需要大量的时间来调优。

LBank何伟:交易所放在第一位的是风控:6月5日16:30,LBank联合创始人何伟做客直播间时表示:交易所放在第一位的是风控。

一、所有的量化团队,必须愿意站出来面向用户,并且有长时间的管理经验和一定规模的资金管理体量。

二、我们要求所有的量化团队,必须要缴纳“劣后”资金,一旦整个产品发生的回撤,或者说亏损,都有劣后资金来承担。当劣后资金快消耗完毕后,LBank会直接强平,要求量化团队补齐劣后资金后,才可以继续交易。

三、我们要求所有的量化团队的策略,必须是套利策略,不允许单边开仓,不允许趋势。在3.12这种极端行情中,这些团队都必须有稳定的盈利,而不允许有较大的回撤。

四、我们要求量化团队能交易的交易平台,只有LBank允许的那三家,其他平台哪怕收益高,都不允许放任何资产过去。[2020/6/8]

此外,指令调整的贡献也很大。InstructGPT虽然在参数上比GPT-3少了100倍,它的输出效果比GPT-3以及用监督学习进行微调的模型都要好得多。

根据知乎用户“避暑山庄梁朝伟”的观点:“InstructionTuning和Prompt方法的核心一样,就是去发掘语言模型本身具备的知识。而他们的不同点就在于,Prompt是去激发语言模型的补全能力,比如给出上半句生成下半句、或者做完形填空,都还是像在做languagemodel任务,而InstructionTuning则是激发语言模型的理解能力,通过给出更明显的指令,让模型去理解并做出正确的反馈。”

参考下图,以前大模型的提升重心更多放在了大模型本身和PromptEngineering上,而ChatGPT的迭代重点是右侧的闭环。

action-drivenLLM训练流程图

最后,ChatGPT在过于保守不提供有效回答和提供虚假信息之间做出了较好的权衡。之前Meta用于科研的大模型Galactica上线仅3天就被迫下线,因为提供了过多虚假的信息。这跟Meta的宣传策略也有关,其本意是想帮助研究人员整理信息、辅助写作,但Meta将其模型宣传为“可以总结学术论文,解决数学问题,生成维基文章,编写科学代码,为分子和蛋白质做注解等”,过高期望带来了反效果,科研人员本来就是挑剔的。ChatGPT尽管不能完全避免虚假信息的问题,但可以看出在微调/Prompt方面做了足够细致的工作,一些自相矛盾的提问可以被甄别出来,让用户对其回答更有信心。

6.商业策略也是重要一环

这次ChatGPT是免费不限量向公众开放,用户可以尽情在平台上尝试各种奇异疯狂的想法,而此前GPT-3是根据使用量(token)来收费的。在使用过程中,用户可以提供反馈,这些反馈是对OpenAI最有价值的信息。OpenAI并不急于创收也不缺钱,坊间传言最新一轮估值已经达到数百亿美金,还有金主爸爸微软。

对于AI发展来说,工程的重要性实际上大于科学,创建一个迭代反馈的闭环至关重要。OpenAI很注重商业应用,GPT-3已经拥有大量客户。这些客户跟OpenAI的反馈互动也是推动进步的关键一环。相比之下,谷歌的闭门造车就显得不合时宜,或许是缺乏商业化的文化,或许是受限于投入产出比,谷歌对于大模型的应用一直很“克制”,即便起点很高,但如果一直像Waymo做自动驾驶一样小规模迭代,早晚会被更为开放,获得更多数据的企业超越。

7.后续提升点

RLHF是一种较新的方法,随着OpenAI不断摸索,结合ChatGPT搜集到的用户反馈,模型还有进一步提升的空间。尤其是在道德/alignment层面,需要屏蔽掉这几天大家试验出来的绕过系统限制产生负面信息的方法。

当然也别忘了,OpenAI还有WebGPT这样的工具,可以理解为高阶版网页爬虫,从互联网上摘取信息来回答问题,并提供相应出处。比如下面的问题Howdoneuralnetworkswork,WebGPT利用了GPT-3本身具备的语义理解能力和互联网公开信息,自己结合出了一份答案,不失为一种升级的搜索能力。

在MITTechnologyReview对OpenAI科学家的采访中,他们提到了后续有可能将ChatGPT和WebGPT的能力结合起来。有网友挖掘出了ChatGPT内设的提示词,其中包含browsing:disabled,把浏览网页能力关闭了,也就是说后续有可能加入这个能力。可以设想,ChatGPT+WebGPT可以产生更为有意思的结果,信息可以实时更新,对于事实真假的判断将更为准确。

与WebGPT的这种结合,对应到上面?action-drivenLLM训练流程图?的左半部分,即连接外部的信息源和工具库。事实上网页搜索只是一种可能,还结合利用各种工具,实现更丰富的功能。

在产品层面,是不是有更好的界面和实现方式也值得讨论。同屏对话框形式容易让人产生过高的预期,因为要保障对话的流畅性。在这一点上,GithubCopilot产品就做得很好,Copilot主打的是programmingpair,以伙伴的身份提出建议。从用户角度,这个建议好就接受,不好就不接受;即便提出了很多不被接受的建议,但在随机时间间隔产生的有效建议带来的爽感就会让用户上瘾。如果ChatGPT后续成为写作助手、编剧助手、工作助手等等,类似Copilot的产品形态会容易让人接受。

写在最后

很多人惊叹于ChatGPT的能力,但其实真正惊艳的还在后面。OpenAI最厉害的不是他关于大模型的理解,而是其工程化、迭代反馈的能力,以及alignment(AI跟人类目标的统一)方面的工作。很欣赏OpenAICEOSamAltman的一句话:“Trusttheexponential.Flatlookingbackwards,verticallookingforwards.”?我们就处在即将起飞的这个点上。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

链链资讯

Gate.ioFTX:2023 年即将发行的 12 款 Web3 游戏

Web3游戏虽仍处于早期阶段,但发展迅速。这些游戏即将到来,但其中许多项目仍处于开发的早期阶段。他们在去年左右才获得资金,需要一些时间才能完成公开版本.

[0:0ms0-15:487ms