首个千亿生物医药ChatGPT来了

对话能力上,不仅英文总结不错,中文对话也来得,直接hold住“疾病画像”这样的专业黑(术)话(语):

如果有看不懂的分子,可以直接一键上传相关文件,让它来负责解读这种分子的作用:

试试更复杂一点的任务,例如计算亲和力问题,大模型竟然直接“推荐”了一个工具,并快速计算出结果:

此外,也不用担心问答内容超出ChatDD训练数据截止日期,毕竟它还学会了自己联网、或是从数据库中查找答案。

制药行业的“专家版ChatGPT”,终于来了!

就在这两天,首个生物医药的千亿参数大模型产品ChatDD发布,不仅制药各阶段知识“样样通”,还能和药学专家进行对话,瞬间秒懂一些行业神秘“黑话”。

这和AlphaFold2直接加个Chat功能还不太一样——

现阶段大模型虽然能在药物发现上做得不错,但要么只涉及单个模态,要么不具备直接对话能力。

ChatDD则兼具多模态和对话双重特点,顺便还能给医药界学生“解个惑”。

做出这个产品背后的水木分子,是今年6月新成立的一家公司。清华大学智能产业研究院院长张亚勤院士指出:

ChatDD通过人机协作对话方式有效地将专家知识与大模型知识相联结,开拓了继传统药物研发TMDD、CADD、AIDD之后的第四代药物研发新模式。

所以,它究竟在什么功能上做到“划时代”?

我们和清华AIR教授、水木分子首席科学家聂再清聊了聊,详细了解了ChatDD的来龙去脉。

ChatDD是一个什么样的产品?

先来看看ChatDD能做哪些事儿,具体又能用在哪里。

它的外观和ChatGPT有点像,是一个网页版,同样能通过对话来实现各种功能。

对话能力上,不仅英文总结不错,中文对话也来得,直接hold住“疾病画像”这样的专业黑(术)(语)

如果有看不懂的分子,可以直接一键上传相关文件,让它来负责解读这种分子的作用:

试试更复杂一点的任务,例如计算亲和力问题,大模型竟然直接“推荐”了一个工具,并快速计算出结果:

此外,也不用担心问答内容超出ChatDD训练数据截止日期,毕竟它还学会了自己联网、或是从数据库中查找答案。

总结来看,ChatDD虽然用法上像ChatGPT,但在生物医药这块是“专业的”。

无论是掌握的多模态(小分子+大分子+文本)医药专业知识量,还是对行业的理解程度、完成任务的能力,ChatDD都要比ChatGPT“更像个学医药的人”。

与同行AI不同的是,ChatDD的“业务范围”,涵盖了制药的前、中、后期三个阶段。

此前的医药行业AI,即使是大模型,往往也只能用于制药的部分阶段,例如前期的药物发现,或是中期的临床前研究。占研发成本大部头的后期临床试验,几乎无人问津。

而ChatDD不仅能参与药物发现、立项、商业智能(BI,Business Inteligence)、临床试验各环节,还能帮助提升成功率。

聂再清介绍表示,ChatDD用于后期临床试验设计,也是大伙儿最期待的功能。

首先,药物在临床试验阶段的通过率,往往并不高。

尤其二期到三期临床,通过率只有34%,三期到四期通过率也不高。但临床试验加上前中期的费用往往又极高,一旦不通过,就是几亿美元成本“打水漂”。

其次,药物通过率不高的原因,(除非药物本身不行)很大程度上是因为没找到适合“对症下药”的患者。

药厂通常会从临床信息数据库中,筛选适合用药的病人。

假设这个药物对数据库中5%的患者有效,那么从这5%的患者中挑选进行临床试验,肯定比剩下95%的患者效率高。

在综合各方面信息做判断这件事上,ChatDD往往比人类更适合筛选出“对症下药”的患者。

聂再清特意举了一个例子,来表明ChatDD的能力:

注意这里未来会是“私有化部署的合作伙伴的单细胞RNA测序数据”,现在因为没有,所以我们用了水木分子收集到的公开数据计算出来的。

这样的ChatDD,背后功能究竟是怎么实现的?

医学院博士后负责数据构建

ChatDD背后的底座,取名ChatDD-FM,参数量达到千亿级别。

这次推出的ChatDD-FM-100B,是全球首个千亿参数多模态生物医药对话大模型,其在C- Eval评测中达到全部医学4项专业第一、也是唯一平均分超过90分的模型。

联想到团队前不久发的BioMedGPT-10B,其自然语言模态的大模型同样基于LLaMA 2架构,这二者是否有什么联系?

聂再清表示,ChatDD-FM和BioMedGPT,在受众和用途上都不太一样,“有点像ChatGPT和GPT-3.5的区别,前者在对话和意图对齐能力上有更大提升”。

BioMedGPT主要用于科研领域,更擅长英文生物医药科研任务,适合直接拿来作为生物医药领域的相关科研任务的基础模型。

ChatDD-FM主要给国内医药行业“打辅助”,侧重中文对话能力,融入了更多专家的对话模式和经验。

技术上,ChatDD-FM相比BioMedGPT,主要增强了三大方面,模态、训练数据和参数量级——

模态上,增加了蛋白质结构数据;训练上,增加了用于中文、专家对话和调用工具能力的数据;参数量级上,从百亿增加到千亿。

让ChatDD-FM提升“专业度”、说话像“行内人”的秘诀,依旧在于高质量数据上。

这些数据主要分为两部分。

第一部分,是预训练用的医药知识数据,主要目的是让ChatDD-FM提升专业素养,几个月内掌握行业知识。

由于之前业内缺少相关(大小分子等多个模态和自然语言对齐)数据集、尤其是中文数据,所以团队又自己收集整理了一系列训练数据集。

首先,和厂商合作翻译专业英文期刊、整理中文期刊,收集带有中文专业名词的大量数据,降低大模型没见过的专业词汇比率;

然后,找来一批医学院博士和博士后,设计一套系统对这些数据进行整理,直到它们可以被喂给大模型使用。

聂再清强调,这些博士不是在做数据标注,毕竟相比有监督学习,自监督学习更重要的是清洗、查找数据的工作:

这些期刊数据当然不是一个人一篇一篇地看,那绝对不行,也不是一个字一个字敲进去,也肯定不行。

毕竟大模型最主要的能力还是来源于自监督学习,所以更多是让他们进行数据清洗和查找的工作。

当然,医药界期刊总是在更新,因此这部分的工作也会持续进行。

第二部分,是“专家数据集”,专门用于提升ChatDD-FM的对话能力。

ChatDD的用户,会有不少医药领域的专业用户,为了让它能无缝读懂业内人的“专言专语”,就必须要先了解专家们平时都会怎么说话。

团队为此找了一些专家,“观察”他们平时是怎么提问的,根据这些问题整理了一套数据集,专门喂给ChatDD。

这样医药专业的用户在使用时,不仅能像和同事聊天一样直接提问,也能选择“提示词模板”直接换词填充。

此外,为了进一步增强模型解决实际医药任务的能力,团队也接入了不少实用工具和开源算法,解决用户遇到的问题,主要分为查询和计算两大类,如知识库查询工具、或靶点亲和力计算工具。

但,ChatDD-FM作为大模型,总归绕不过幻觉这个问题。

此前发布BioMedGPT时,聂再清就曾表示过不用害怕科研、药物发现等阶段的“幻觉”。现在发布商业版ChatDD-FM,是否还这么想?

聂再清表示,现阶段ChatDD-FM可以根据不同的需求,调整大模型出现幻觉的情况。

例如在做商业智能的时候,就尽可能降低大模型的幻觉,做到每一句话都有来源可追溯;

但在做药物发现的时候,只要有实验人员把关,都可以去适当提升幻觉,增加一部分模型想象力来“换换思路”,或许能试出有意思的结果。

后期,ChatDD-FM理论上甚至能做到“一键更改回答出现幻觉的比率”。

“对制药行业有划时代意义”

ChatDD背后的公司水木分子,目前已完成千万级种子轮融资。

水木分子自定义为“大模型时代的CRO公司”,即利用大模型或AI技术,帮助别人更好更快地制药。

公司的盈利方式目前有三种,包括ToB付费会员(按使用次数收费)、私有化部署和制药分成。

已经有制药厂商找来合作了——复星医药计划对ChatDD进行私有化部署,用于辅助药物立项等阶段。

药物立项,涉及大量资料查找和判断,包括查找有无药物相关(官能团、分子结构保护等)专利,还要根据大量文献和实时市场信息等资料判断是否值得立项。ChatDD能通过整合文献和相关专利,生成一个完整的参考报告。

ChatDD的出现,聂再清认为对于行业而言有跨时代意义:

它真正将专家的经验和直觉、以及大模型的“智力涌现”能力融会贯通了起来。

此前,制药行业经历了三个阶段,分别是TMDD(Traditional Manual Drug Design)、CADD(Computer-Aided Drug Design)和AIDD(AI Drug Design)

但无论是人工试验,还是计算或AI辅助药物研发设计,都需要大量人力去“学会如何使用”模型,尚未出现一个能和科研人员直接对话的系统。

现在,ChatDD的出现真正改变了这一现状。

它不仅能将制药的知识经验集成到大模型中,通过提示词就能激发调用出来,还能通过学习专家对话方法掌握专业沟通能力,“相当于把人和机器最powerful的地方做了个融合。”

不过,要完全实现ChatDD的全部潜能,真正进入比较成熟的阶段,聂再清认为至少还有10年的黄金时代。

一方面,对于生物医药行业来说,人类对于蛋白质、细胞、小分子之类的理解也还远远不够,在这个学科方面仍然可以做出很多成绩和进展;

另一方面,对AI行业来说,无论是数据还是算法,也都还没发展到足够成熟的阶段。

数据上,目前生物医药领域内各模态和自然语言对齐的数据还很少。

(就像图文一样,虽然文字和图像各自的数据很多,但图文对齐如VQA的数据却相对要少很多。)

对此依旧需要不断收集整理出PQA(蛋白质问答)、MQA(小分子问答)等模态的数据,来让多模态大模型的效果变得更好。

模型上,大模型目前的效果还不是最好的,无论是单模态还是多模态,都值得继续去探索。

所以,公司的下一步计划,就是继续优化模型、增加更多模态,并找到更多的场景落地需求。

对于ChatDD最终形态的设想,聂再清表示:

它会成为一个各模态(大小分子、蛋白质结构、DNA、单细胞等)和自然语言全部对齐的生物医药基础大模型产品。

他也在发布会上预言,这个产品会成为生物医药行业的大模型“Killer APP”。

到那时候,才会真正打破医药界的“双十定律”,高性价比地实现人机协作新药研发。

本文来自微信公众号:量子位 (ID:QbitAI),作者:萧箫

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
Like (0)
Previous 2023年9月22日
Next 2023年9月22日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日