这其实代表使用的代表的就是设计者的意志。

mamun6846

  设计变革——大模型的设计方法     而对于大模型来说我只需要定义好情感的精调数据应该长成什么样子就可以借助精调数据激发大模型的能力端到端的实现情感会话。这样的端到端设计方式直接导致了三个结果 专业的子任务定义工作不需要了设计者甚至不需要理解子任务是什么人工智能存在哪些子任务这些基本知识就可以上手做设计。 任务拆解和路径拆解的工作变得非常简单因为不存在效果不可达并且问题只需要端到端解决看起来没必要分析任务的构成要素拆解解决路径了。甚至目标本身可能就是任务例如“我需要一种面向老年用户情感陪伴的聊天系统”可能直接就是这个目标唯一也是不需要分解的任务。


数据的重要性变得比预训练时代还要重要以前我们可以认为要达到很好的效果模型占数据占现在数据的比重再度提高了。这也导致了一个问题就是数据集定义和设计的怎么样就直接决定了最终效果。机器学习的名言“  ”可以说在大模型中会得到极致的体现大模型对于数据的敏感性比过去的模型都更高的训练集噪音就可以直接毁掉整个系统使系统变得根本无法使用而在以前这个噪音容忍度可能是或者更高。 看起来既不需要做路径拆解也不需要做子任务定义了但是我觉得其实这更加考验对于“情感”这件事的本质理解了毕竟定义出来数据集长什么样就直接影响了最终的输出效果“数据集应该是什么样的”这个问题可能更考验对于社会学脑科学家国文化心理等方面的理解以及对于“会话”这件事的本质理解。





大模型的应用会有哪些问题 打造一个大模型需要巨大的训练费用和调用费用这一部分在很多大模型的工程复现文章中都有成本的详细论证就不做赘述。想谈几个被较少提及的应用问题但是包括训练和调用成本在内这些问题并不是无解的只是需要行业内共同大模型的健康发展去逐步解决。 ① 成本问题展望  成本的扩张 关于目前“模型规模的增长速度超过了摩尔定律的硬件扩展速度”各种论证和说明有很多但是当下这个舆论风向的话可能 的说辞更有说服力一些吧。众所周知的效果每提升一点模型规模和需要的计算资源都是指数上升的一定不止摩尔定律的两倍这么多。当然摩尔定律本质上也是商业行为逆推整个行业技术改进速度的案例所以 这个很有当年英特尔和微软那味。