传承中心推荐
近日,硅谷GenAI峰会圆满落幕,掀起硅谷AI的新一轮热潮。多位传承中心「星曜未来」同学担任峰会志愿者,用他们的努力协助大会顺利举行。同时,瑞承邀请了二十位客户莅临盛会,感受AI科技的最前沿。
Mengfan作为IOBC Capital北美投资负责人,以及GPTDAO的核心成员,参与组织并主持了此次峰会。以下是Mengfan为大家带来的峰会心得,以及分享大会背后的故事。
精彩嘉宾回顾 01 Jason Wei(OpenAI的研究员) ✦ 来自OpenAI的研究员Jason Wei无疑是本场最受欢迎的嘉宾。Jason不仅做了关于“大语言模型复兴中的新范式”的精彩主题演讲,并参与了“用学术眼光审视大语言模型”的圆桌论坛,以及“美国K12高中生挑战峰会嘉宾”环节。 在加入OpenAI之前,他曾在Google Brain从事高级研究员的工作,届时提出了思维链的概念,而此概念推动了大语言模型的突破走向“涌现” (emergence)。在本次大会上,Jason作为目前世界上最顶级的生成式AI公司OPENAI的研究员,向观众阐述了生成式AI未来的无限可能以及可能面临的挑战。 有趣的故事:观众人数会随Jason在不在场有至少30%的明显变化, 会后围绕Jason问问题的观众里外三层水泄不通。 02 Jerry Liu (LlamaIndex创始人) ✦ Jerry Liu被誉为“华人AI圈的牛顿”也是本次峰会最受欢迎的嘉宾之一。Jerry在今年3月创立了目前备受AI资本青睐的LlamaIndex公司。LlamaIndex是一个将大语言模型和外部数据链接在一起的工具,它通过查询和检索的方式挖掘外部数据的信息,将有最有效的信息提取集中在大语言模型有限长度限制内,并将信息与用户输入的提示词(prompt)一并传递给大模型,使大模型获得更多有用信息,从而提高其预测和回答的准确度。 Jerry毕业于普林斯顿大学计算机科学系,在创立LlamaIndex之前,他曾就职于Uber从事AI研究员的工作,以及Robust Intelligence公司担任机器学习工程师。 本次峰会上,Jerry贡献了关于“构建高性能的RAG检索增强生成(RetrievalAugmentedGeneration)的主题演讲,讲解了RAG的原理,结构以及组成。除此外,Jerry还参与了关于“技术堆栈如何提高大语言模型部署“的圆桌论坛,以及“K12高中生挑战峰会嘉宾”的环节。 有趣的故事:Jerry算是本场最勤劳的嘉宾,他无缝连接地在主副会场参与了两个圆桌论坛,不断得高质量输出,一直坚持到大会结束。我们开玩笑说,他已经成为了我们会务组的成员。Jerry本人非常谦逊和善,中午聊天时,他跟我提到他们目前约16个员工,目前融资情况良好,一段时间内不考虑继续融资,想踏实的专注于开发。 03 Harrison Chase(LangChain创始人) ✦ Harrison Chase毕业于哈佛大学,于今年一月创立了大名鼎鼎的LangChain, 与Jerry Liu同样在Robust Intelligence公司工作过,也曾担任机器学习工程师。如此看来Robust Intelligence为生成式AI培养了不少领军人才,应当也是一个优质的AI公司。 LangChain是一个强大的框架,旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口,可简化创建由大型语言模型和聊天模型支持的应用程序的过程。 本次峰会上,Harrison分享了如何构建具备上下文感知推理的应用程序。具备上下文感知能力的应用程序可以连接到各种上下文来源,如提示指令、示例数据、相关内容等,以更好地理解用户的需求或环境,并相应地做出决策或生成响应。这种能力对于构建智能聊天机器人、自动文档摘要生成、智能代码分析等应用非常重要,其强调了应用程序的智能和适应性,能更好地满足用户的需求。 同样的,Harrison也参与了“K12高中生挑战峰会嘉宾”环节。我们在等午餐时简单地聊了几句,Harrison是个挺内向的人,人非常和善。他很乐于在线上和线下宣传自己的公司,大会前看过他在youtube上的采访和演讲,干货不断,是标准的年轻科技企业家的范儿。 04 Anton Troynikov(Chroma创始人) ✦ Anton Troynikov在创立Chroma之前曾就职于Meta,参与面向增强现实(AR)和虚拟现实(VR)的3D计算机视觉研发。他于2022年9月创立了Chroma,旨在创立AI原生的开源嵌入式数据库。Chroma的开源工具为不同的大语言模型应用程序添加状态和内存,包括提供数据、事实、可插入知识,从而减少AI出现“幻觉”(hallucination)并增加事实性。同时也为“我想使用OpenAI的模型,但不想用它的数据”的公司提供了解决方案。近几个月多个向量数据库创业公司获得千万级融资,此赛道未来可期。 Anton Troynikov不仅是技术专家,也非常善于演讲和沟通。他担任我主持的下午场一场圆桌论坛的嘉宾主持,谈话风格幽默风趣,频繁与观众提问,此论坛成功吸引了大量的观众。他组织嘉宾一同讨论了开源模型在AI领域的应用,以及选择开源还是闭源的优势与劣势。大多嘉宾认为开源有助于行业扩大视野,鼓励将更多的开源工具提供给更多的开发者及社区。除了参与圆桌论坛,作为向量数据库领域的专家,Anton还就“AI记忆”展开了主题演讲。 有趣的故事:在论坛开始时,其中一位嘉宾还未赶到,Anton开玩笑说:“没关系,那就先请观众们欣赏下我们嘉宾的颜值吧。” 05 Jay Alammar(Cohere工程部门总监) ✦ 非常荣幸邀请到了生成式AI领域首屈一指的服务企业级客户的人工职能平台Cohere的工程部总监Jay Alammar。Cohere 提供数据安全的部署选项、定制化和客户支持,适用于公司现有的云环境,能满足不同企业对数据隐私和灵活性的需求。不同于To C端的产品虽然拥有巨大的流量但由于客户免费使用因此没有收入,Cohere更为聪明地选择了服务拥有一定付费意识的企业级别用户。 Jay在峰会上分享了Cohere创建的重排(rerank)算法原理,其作为搜索流程的最后阶段,为用户的查询提供相关文档的排名。这意味着公司可以保留现有的基于关键字或基于语义的搜索系统,用于第一阶段的检索,然后在第二阶段重新排名时集成Rerank端点。 有趣的故事:和Jay聊天时,我提到他在Youtube分享了很多关于Al的视频,他谦虚地说他制作视频的动力,是他在分享的过程中能学习到新的知识。我们还聊到现在Al公司的成本压力非常大,于是我们开玩笑说Al创业公司最终都是给英伟达打工的 lol。 午餐期间,我正好和Jay, Jason 坐在一桌,他们俩一拍即合得说到,现在用户对模型的期待越来越高,例如用户刚开始使用ChapGpt3.5的时候觉得它惊为天人,于是期待这些Al公司在更短的时间训练出“无所不能”的模型,当没有达到用户的预期(大多是不现实的预期)时,用户便会失望,我为这些研究员和工程师们感到压力山大 lol。 06 Jason Lopatecki(Arize CEO) ✦ Arize的Ceo Jason Lopatecki就“大语言评估模型“进行了主题演讲,分享了大语言模型监控工具(LLM Observability) 的五个重要组成部分:评估(evaluation),跟踪与跨度(traces & spans) ,提示工程(prompt engineering) ,搜索与检索(search & retrieval), 和调试(fine tuning) . LLM Observability帮助实时识别异常,异常和趋势,使开发者能够采取积极措施,确保他们开发的应用在生产环境中的可靠性。 07 Arvind Jain(Glean CEO) ✦ Glean的Ceo Arvind Jain对生成式AI在企业级的应用展开了精彩的主题演讲。微软数据与AI业务拓展总经理Rashmi Misra和Anyscale的云平台负责人Ameer Hai-Ali分别在主会场和副会场发表了主题演讲。Lima的联合创始人Rajat Suri分享了有关“拓展人工智能”的精彩主题内容。
圆桌论坛 01 Generative Agents & Social Networking ✦ 首场论坛讨论了“生成式代理(Generative Agents)在社交媒体领域的应用,与会嘉宾包括Shaun(Character.Ai创始人),Yichong Xu (character.Ai)和来自Metay的Florence Li。 02 Open vs. Closed - The Dichotomy of OpenSource Models in AI ✦ 第二场论坛的嘉宾讨论了开源模型,与会嘉宾有Chroma创始人Anton, Lima联合作者Chunting Zhou、Vicuna的作者Lianmin Zheng、Gorilla LLM的设计师Shishir Ptil, 以及亚马逊HIL科学部门的负责人Li Erran Li。 03 Tech Stacks Powering LLM Deployment ✦ 在第三场论坛上,Jason Lopatecki (Arize CEO )、Jerry Liu (LlamaIndex 创始人)和Aravind Srinivas (Perplexity AI CEO ) 共同探讨了技术堆栈如何提高大语言模型的部署。 04 Rise of Generative AI in SaaS and Robotics ✦ 第四场论坛则聚焦生成式AI在SaaS和智能机器人技术领域的应用,参与讨论的嘉宾包括Amin Ahmad (Vectara的创始人)、Minfa Wang (Autonomous Driving的技术组长) 和来自Storytell.ai的Jing Wang。 05 Fireside Chat: AI Education ✦ 炉边对话由Jonathan Heyne (Deeplearning.ai COO), Kian Katanforoosh(Workera CEO) 和Ziren Lin(麦肯锡)就AI教育进行了深入探讨。 06 Scrutinizing LLMs with Academic Lens ✦ 来自Meta AI的研究科学家Chunting Zhou和Jason Wei,以及来自Google Deepmind的高级科学家Xinyun Chen就”如何减少大语言模型产生的幻觉效应“,如何“使AI模式自己查错(debug)” 等话题进行了热烈的讨论。 07 MLOps and Scaling LLM Apps ✦ 副会场的最后一个圆桌论坛则聚焦于“ML运维与扩展LLM应用”,参与讨论的嘉宾包括Anyscale的云平台负责人Ameer Hai-Ali、西雅图科技论坛主席Tiger Feng、Meta的工程部门总监Yun Jin、微软机器学习团队的Hanyu Xue以及 Portkey.ai的CEO Rohit Agarwal。
创新环节 01 02 展区 本次参展的项目从类型上来看,主要是大语言模型,AI生成式应用,AI周边服务, AI教育,AI玩具,AI占卜预测等。但基本上集中在基础架构以及类型较单一的传媒类生成式应用。由此我们也看到目前AI市场上的资源分配存在不均,期望未来AI在实体行业中的应用不断涌现,例如AI医疗,AI物流,AI金融,AI农业等更广阔的应用场景,帮助更多的行业实现AI转型。 融资阶段来看,很有意思,基本成两级状态。一部分项目在很早期的融资阶段,而另外一部分基本上已经融到了B轮之后(比如演讲嘉宾创立的项目),不缺资金,目前专注产品研发。 从创始人地区角度来看,大多是来自美国尤其是硅谷地区的美国人,另外则是华人创业者。未来有机会,我再和大家分享参展项目。 大会背后的故事 作为会务组核心成员,我有幸见证了大会筹备的过程,几位会务组核心成员在大会前两个月开始动工,以迅猛的速度租赁场地,邀请嘉宾,宣传售票,邀请展区项目,组织工作人员和志愿者,在这个过程中遇到了一系列挑战。 最开始的一个月是艰难的,嘉宾不理,观众不来,没有赞助商,多次萌生过想放弃的念头,但是还好大家坚持到了最后一刻。没有峰会是完美无缺的,但是会务组尽了全力,以华人之面,链接全球生成式AI创业者之间的交流,鼓励z时代年轻人学习了解AI知识,掀起硅谷AI的新一轮热潮。 感谢 感谢大会主办方GPTDAO发起人Ramble,会务组核心成员:沧海Dr.Ran,Alan,老蔡,Sonya,Wuhan, 春哥, Ziren, 以及Christina, Vera等会务组的所有工作人员。感谢IOBC Capital,大会合作伙伴,以及赞助商们的鼎力支持。 感谢所有的志愿者,你们串联了整个大会,保证了大会的顺利举办。感谢传承中心选送的几位IOBC基金的志愿者:一阁,孙昊,凯迪,文昭,析微以及小小,Jiwei,David,金浩, 还有Jing Jing等所有志愿者们。 作者简介 PROFILE Mengfan 从事硅谷科技投资, 医疗, AI, 媒体及Web3. Stanford,IOBCCapital,GPTDAO,BlockTrain. 曾就职于Coinbase, Celo, Capital Bluecross等.