OpenAI在官网宣告新增6个全新微调API功用，以扩展自定义模型，帮助企业、开发人员更好地构建特定范畴、精细化的ChatGPT应用。
这些功用包含:依据Epoch的检查点创立、Playground新功用、第三方集成、全面验证目标、超参数装备和更具体的微调仪表板改善。
新的微调API功用适用于GPT-4/Turbo、GPT-3.5等系列模型。
具体微调API教程:https://platform.opEnai.com/docs/guidEs/finE-tuning
图片
微调API6个新功用介绍
2023年8月22日，OpEnAI首次推出了依据GPT-3.5Turbo的微调API功用，使企业、开发人员能够运用自己的数据，结合事务用例构建专属ChatGPT。
通过几个月的时间，全球数千个安排凭借OpEnAI的微调API功用，练习了数十万个自定义模型实现降本增效。
例如，全球知名招聘渠道IndEEd期望新增一项功用，向求职者发送个性化引荐，依据求职者的技能、经历和偏好杰出显现相关作业。
IndEEd通过GPT-3.5Turbo 进行了微调，生成了高质量和更精确的个性化引荐。每月向求职者发送的音讯也开端从不到100万条，大幅度增加到大约2000万条。
今日，OpEnAI推出了6个新的微调API功用，以帮助开发人员更好地运用微调。
依据Epoch的检查点创立:在深度学习模型的练习进程中，依据Epoch的检查点创立是一项非常重要的功用。每个Epoch结束时或者在特定的Epoch间隔时，系统会主动保存当时模型的状况，包含模型的参数（权重和偏置）和优化器的状况。
假如练习进程由于意外原因（比如硬件毛病、电源中止等）被中止，检查点答应我们从最后保存的状况康复练习，而不是从头开端。
所以，OpenAI新增的依据 Epoch 的检查点创立功用，能够极大削减模型的重复练习，尤其是在过度拟合的情况下。
Playground:Playground是OpenAI在2022年发布的一个可视化模型比较渠道，供给了一个交互式的在线环境，答应用户输入指令或提示，然后将其发送给多个言语模型查看它们的输出成果。
本次，OpenAI新增一个并排的Playground UI，用于比较不同模型质量和性能，同时答应对多个模型的输出进行人工评价或依据单个提示微调快照。
图片
第三方集成:新的微调支持与第三方渠道集成，让开发人员与堆栈的其余部分共享具体的微调数据。
全面验证目标:能够计算整个验证数据集（而不是采样批次）的损失和精确性等目标，然后更好地了解模型质量。
微调仪表板改善:包含装备超参数、查看更具体的练习目标以及从以前的装备从头运转作业等功用。这也就是说，开发人员在微调的进程中能够掌控更具体、直观的微调数据。
图片
超参数装备:能够从仪表板装备可用的超参数，而不仅仅是通过API或SDK。
什么是微调
微调（FinE-tuning）是一种在预练习大模型的基础上，进一步优化和调整模型参数的技能，使模型更好地适应特定事务场景。这个进程中，模型的参数会进行细小的调整。
微调的主要流程包含:初始化，运用预练习言语模型的参数对新模型进行初始化;增加输出层，依据下游任务的目标（文本生成、内容摘要等）在预练习模型的顶层增加相应的输出层;
微调练习，运用带标示的私有数据，以较小的学习率对整个模型进行练习，直至模型在验证集上的目标达到抱负作用。
例如，我们期望GPT3.5模型在法令事务上的体现更好、更专业，能够用海量法令数据集对模型进行微调。服务器处理器,通过微调，模型学习到如何更好地解读、生成和猜测法令问题。
如何进行微调
1，准备数据，创立一组多样化的演示对话，类似于要求模型在实际输出中的对话。数据会集的每个示例都应该与OpenAI的谈天完成 API 格式相同的对话，特别是音讯列表，其间每条音讯都有角色、内容和可选称号。
图片
2，上传文件
图片
3，创立微调作业，运用 OpenAI SDK开端进行大规模数据练习、微调。练习模型或许需求几分钟或几小时，具体取决于模型和数据集巨细。
模型练习完成后，创立微调作业的用户将收到一封确认电子邮件。
图片
除了创立微调作业外，开发者还能够列出现有作业、检索作业状况或取消作业。
图片
4，运用微调模型，微调作业完成后模型能够投入运用了。
图片
在某些情况下，用户的微调模型或许需求几分钟才干准备好处理恳求。假如对模型的恳求超时或找不到模型称号，或许是由于模型仍在加载中，可在几分钟后重试。