a16z:巧用「幻觉」的应用架构思考

生成式人工智能的一个显著特点是它是「概率计算机」的首批产物,能够产生多样且非确定性的输出。有些人期望这些系统表现得像传统系统一样,对其产生的「幻觉」提出了抱怨,然而,这些抱怨忽略了关键点。输出的多样性(包括幻觉)恰恰是这里的特别之处。事实上,它们开启了一个全新的产品设计类别:概率性产品。

生成式 AI 作为一种概率计算机,能够产生多样且不确定性的输出。这些多样的输出开启了一个新的产品类别:概率性产品。a16z 昨天最新发布文章提出「概率性产品」,并根据用户对不确定性的接受度将产品分为三类。笔者希望借这篇文章带来 Gen-AI 技术对产品设计和用例的思考,生成式 AI 的不确定性正在成为和用户交互的变量。

生成式内容不确定性下的三类产品:

受益于不确定性的产品 / 可容忍概率性输出的产品 / 需要准确输出的产品。

  • 当我们还在诟病大模型会产生幻觉的时候,未曾想象概率性的不确定内容恰恰会成为其区别于冰冷计算机的变量所在。生成式内容的概率性像是赋予了 AI 以意识,更适用于与人更近的交互层和更需要创造力的领域(游戏、艺术创造、创新研究等)。
  • 在 AI 的世界里,硬币有了多面。在产品设计的不同架构层或流程服务里,大模型的应用会更组合模块化,用模糊理解模糊,在非关键点上提供更多新鲜感,提取的信息在精确层上进行数理计算,相信会很快看到这样的产品。
  • 当人的创造力枯竭,大模型成为早期的脑洞来源。然而像科学家异想天开的创造同样需要依赖长期探索的积累,通过训练领域模型让其产生更高质量的不确定性内容,是创业者值得思考的事情。
  • 对于一个产品架构而言,随机与确定解决不同的问题,应当互补融合。平衡也是一门艺术。

生成式人工智能的一个显著特点是它是「概率计算机」的首批产物,能够产生多样且非确定性的输出。有些人期望这些系统表现得像传统系统一样,对其产生的「幻觉」提出了抱怨,然而,这些抱怨忽略了关键点。输出的多样性(包括幻觉)恰恰是这里的特别之处。事实上,它们开启了一个全新的产品设计类别:概率性产品。

所谓概率性产品,指的是具有非确定性和经常出现新特性的产品。社交网络就是概率性产品的一个例子。这些网络上出现的新行为通常是无法预测的,只能被观察到。a16z 将产品类别和产品用例分为三类来思考:

1.受益于不确定性的产品

2.可容忍概率性输出,但不一定从不确定内容收益的产品

3.需要准确性输出的产品

第一类是那些受益于不确定性的产品。比如像 Midjourney 和 Stable Diffusion 这样的热门图像模型,它们之所以神奇,是因为它们会生成各种各样的输出。这整个生成式媒体类别之所以能够产生惊人的结果,正是因为平台是非确定性的。AI 伴侣类别也属于这一组,因为产品的整体价值在于其与人类非常相似的不可预测的互动;失去非确定性的输出将削弱产品体验。该领域中的另一个例子可能包括辅助购物,因为 AI 提供的意外和不寻常的服装推荐正是能够塑造个人风格和品味的关键。

第二类产品可以容忍概率性输出,但不一定从平台的非确定内容中受益。例如,考虑那些生成现有内容的产品,只要生成内容的要点准确无误,生成内容的方式变化通常是可以接受的。举个例子,预测数值(例如股票组合表现)需要更高的准确性,而生成书面内容可以具有更大的变化范围而不会损失价值。甚至代码生成也能容忍一定的变化,只要代码按预期工作即可。

最后,还有大量需要确定性输出的用例。这些例子包括从财务预测到税务计算再到驾驶路线等,基本上涵盖了所有需要明确答案的领域。

我们还可以将个别产品分为根据对概率性输出的容忍程度进行划分的产品架构。

a16z:巧用「幻觉」的应用架构思考

例如,想象一个旨在帮助您申报税务的 AI 助手。这样的助手可以分为三个子系统,各个子系统对底层平台有不同的期望。

  • 在人机交互界面,自带不确定性基因的 LLM 能够完成与用户更弹性的聊天并收集用户税收相关信息。
  • 其次,将用户信息作为背景信息能够作为税务引擎输入系统,而对用户背景信息的整理具有一定的包容性,可以接受不确定信息的输入。
  • 最后,实际的税务计算可以且应该在一个传统引擎上完成,该引擎不受 LLM 的限制,从而确保输出的准确性。

一句话,新的计算架构需要新的产品架构,LLM 和生成式 AI Pipeline 平台的不确定性创造了独特的机遇和要求,产品和用例在设计输出多样性时要仔细考虑。尤其对于产品研究者和设计师们,在利用并设计这些新功能的交互体验时,需要认真考虑这一点。

矢量AI门户网,优质AI资讯内容平台

(0)
上一篇 2023年8月3日 下午1:27
下一篇 2023年8月4日 下午6:22

相关推荐

  • AI-first产品的机会在哪?

    Greylock 认为,那些能够成功地将 AI 的力量,赋能给用户喜爱的产品中的产品建设和设计者,一定能创造出巨大的价值。因为,如果人们生活在一个新时代,在这样的时代中,基础模型能让所有人都能够轻松地构建人工智能公司,那么应用程序最具战略性的优势在于,可以与多个记录系统共存,并收集和产品相关的所有数据。

    2023年9月13日
    107
  • 对话无界AI创始人长铗:AI的创业机会在应用层

    目前,无界AI用户量不到300万,距离1000万的年度目标还有差距。无界AI创始人长铗直言,用户增长进入爬坡期,下半年还要继续努力。无界AI增长乏力是行业的一个缩影。作为新兴领域,AI绘画行业正在快速发生变化。一周前的世界人工智能大会上,阿里云旗下通义系列大模型上新了一位新成员——通义万相,定位为AI绘画创作大模型。阿里之外,百度、讯飞、商汤等公司推出的大模型均具备文生图等多模态功能。

    2023年7月17日
    291
  • 对话「妙鸭」产品负责人:AIGC的产品第一天不收钱,就可能收不到钱

    妙鸭破圈的速度令人侧目,但背后的开发团队却十分神秘。在上线和快速破圈之前,既没有在过去几个月的数十场大模型发布会上有所剧透,也不是拿到几千万上亿天使融资起步的「大佬下海创业」,甚至绝大多数圈内人,都不清楚妙鸭背后到底是创业团队还是一个大厂内部项目。

    2023年8月4日
    132

发表回复

登录后才能评论