未来科技

  • Transformer的后浪来了?

    Mamba让参数获得依据上下文提取信息的能力,强化了模型的参数捕获和对上下文的表征能力,与笔者在《爱因斯坦校友提出的Transformer简化方案是条歧路》中的观点一致:增加模型的精度,增加隐变量的数量,可以扩大隐变量空间的维度,提高概率向量对实际信息的表征能力的丰富性,强化信息细微差别的区分能力。

    Mamba所展现的能力,与笔者判断也一致“各种DNN深度神经网络,本质上只要沿着这个思路增加参数捕获能力,都可以与Transformer殊途同归”,即使其并行性与百亿参数超大规模能力和效率仍有待观察。

    未来科技 2024年2月19日
  • 从AI到股市,龙年开始了

    尤其是OpenAI和谷歌DeepMind的巅峰对决,正在把大模型推向新一代,在国内再度引发一轮危言:我们和他们的差距是不是拉大了。1.5,OpenAI发布Sora。

    几个小时后,OpenAI发布了Sora,声称自己构建了一个“物理世界的通用模拟器”,相信它将成为实现通用人工智能(AGI)的重要里程碑。

    能与谷歌与OpenAI比拼谁最接近AGI的,还有Meta。

    未来科技 2024年2月19日
  • OpenAI站在谷歌的肩膀上,用谷歌的技术刷屏

    有人猜测,OpenAI如此匆忙地发布Sora的演示视频,就是为了向世界证明OpenAI才是AI行业的领先公司,因为就在几小时前,谷歌才发布了Gemini。

    股民们在OpenAI发布Sora后,感觉下一个AI风口就在眼前,有机构连夜盘点了国内视频生成相关的公司,甚至出现了Sora概念股。

    图/OpenAI

    除了以上这些创新,OpenAI在训练Sora上,也遵循了大力出奇迹的传统,也就是加计算量。

    未来科技 2024年2月19日
  • Sora带来的四点启发

    今天可以看到,每次OpenAI的新东西出来,都会有人出来“维权”原创,从Q*到今天Sora背后的patch,推特上一名支持开源的学者说到:今天已经没有任何一条学术规范没有被OpenAI无视过。Anthropic拿到亚马逊的最重要一笔融资后,发现OpenAI给ChatGPT做了第一次大更新,上线了语音和图像功能,以及这一次还没ready的Sora硬抢谷歌Gemini的头条,Altman掌控下的OpenAI在议程设置上几乎登峰造极。

    未来科技 2024年2月19日
  • 深度科技公司如何筹集资金?

    即便如此,对于欧洲深度科技创业者而言,特别是医疗科技等领域,产品进入市场的时间往往会超过四年,这意味着VC最常见的回复是:等你们接近市场时再来找我。

    二、与其死磕VC,不如另辟蹊径

    一些创始人可能会发现,VC经常用投消费科技的逻辑来投深度科技。

    美国国家标准技术研究院研究发现,90%科技成果将在这一阶段销声匿迹。

    未来科技 2024年2月19日
  • 中国大模型产业的五个真问题

    2023年下半年,陆续有部分大模型被指出是“套壳”,直接套用了国外的开源大模型,在一些检验大模型能力的榜单上排名靠前,不少指标都接近GPT4。

    2023年,中国不少投资人会直接告诉大模型创业者,先招一些名校背景的人,抓紧开发布会,发布大模型产品,然后做下一轮融资,不要去买算力。

    2024年,AI大模型的发展会有几个相对确定的趋势:一是融资热度下滑,2023年出现的一家公司完成多轮数亿美元融资的情况会明显减少,大模型创业公司需要寻找新的出路。

    未来科技 2024年2月18日
  • 航运日益繁忙,安全如何保障?

    一、前言 航运业是我国经济社会发展重要的基础产业。2020年,我国水路货运量达7.6×109 t,港口货物吞吐量达1.46×1010 t,承运了我国90%以上的外贸货物,在集装箱、…

    未来科技 2024年2月18日
  • “今天,所有VC的会上都在谈Sora”

    Diffusion),甚至已经诞生了垂直于多媒体内容创作大模型的独角兽,例如视频生成大模型Gen-2的开发商Runway,在2023年6月底完成由Google、Nvidia、Salesforce参与的C轮融资后,估值超过15亿美元。

    等到2023年2月,Runway发布第一代产品Gen-1,普通用户已经能通过iOS设备进行免费体验,范围除了“真实图像转黏土”“真实图像转素描”这些滤镜式的功能,还包含了“文本转视频”,从而使得Gen-1成为了首批投入商用的文生视频大模型。

    未来科技 2024年2月18日
  • 人工智能时代写作者的自我修养

    每一次新技术的诞生及其所引发的变革,都会让人们感到深深的忧虑,就如同我们曾幻想在童话故事中和公主或王子一同生活在一个幸福安宁的世界里,而新技术就像是一个恶魔,将我们深爱的伴侣夺走,让我们的世界变得陌生和混乱。深度学习、人工神经网络与人工智能在技术上带来突变,但在文化上,它们延续着图灵、冯·诺依曼、维纳时代的感知结构的可能,也延续着蒸汽机与工业革命时代的机器诗学的可能。

    在初步文字机械化到强人工智能或超级文学机器之间,还有很长的路,而在这条很长的路不断向前延展的过程中,一个写作者会有怎样的自处策略呢。

    未来科技 2024年2月18日
  • 火箭、卫星离普通人的生活还有多远?

    想象如下场景:在戈壁遭遇险情,只要轻触按键,车辆坐标和信息就可发送,剩下的则是静待救援;即便没有手机信号,还能远程通话;远洋货轮的水手和游轮上的旅客,不用在出发前抓紧拷贝影像资源,…

    未来科技 2024年2月18日