AI社区

人工智能模型社区 1个主题内容
ChatGPT注册使用 0个主题内容
算力百科 0个主题内容
bug及解决办法 0个主题内容
数据集应用社区 7个主题内容
AI大学 2个主题内容
应用案例：双目作为3D相机，仿照人类双眼感知世界
卷积神经网络（Convolutional Neural Networks）
BP(back propagation)神经网络
层次聚类算法
SOM 自组织映射神经网络
独立同分布（iid，independently identically distribution）
Mean Squared Error 均方误差
致AI开发者的公开信

Messages

值得信赖的LLMs：评估大型语言模型一致性的调查和指南

确保模型的行为符合人类意图，即所谓的“对齐”（alignment）[1,2]，已成为在实际应用中部署大型语言模型（LLMs）之前的关键任务。例如，OpenAI在发布GPT-4之前花费了六个月的时间进行迭代对齐[3]。然而，从业者面临的一个主要挑战是缺乏明确的指导，以评估LLM输出是否符合社会规...
论文地址：Trustworthy LLMs: a Survey and Guideline for Evaluating Large Language Models' Alignment

用户分享观点：