1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:大模型的人味儿,从何而来?

文科生羽山最近加入了一家大厂的AI研发部门,成为了一名“人文训练师”。这个岗位在全球范围内都很新鲜,他的任务是教会AI像人类一样思考。

羽山原本是复旦大学的哲学博士,研究了十年哲学。今年5月毕业后,他在小红书官网上看到“AI人文训练师”的招聘启事,于是投递了简历。他认为AI行业终于开始重视人文研究了。

“AI人文训练”属于模型“后训练”的一部分,目前还未成为行业主流。不过,像Anthropic和DeepSeek等公司已经开始聘请哲学系博士和中文系学生,负责模型后训练的人类价值对齐与微调。

羽山所在的团队刚刚成立,成员都是来自知名高校人文学科的硕士、博士。他们的主要任务是设计AI的观念和个性。

例如,当面对“我得了胰腺癌”这样的问题时,市面上的AI往往给出固定话术,缺乏人情味。羽山和同事决定让AI展现更真实的情感反应,比如短暂的语塞和哽咽。

团队还通过分析癌症病人的访谈,设计了一系列展开性问题,涉及疼痛、临终陪护、安乐死等内容,让AI更好地理解和回应人类的情感。

此外,他们还探讨了许多复杂的社会问题,如亲子关系和性别议题。通过反复训练,AI逐渐学会了在情与法之间找到平衡,给出更符合人类价值观的回答。

尽管AI的性格底色正在形成,但羽山坦言,改变大众认知偏差仍需时间。而在这个过程中,人文训练师自身也在不断反思和成长。

叶子是一位内向的训练师,通过这份工作她意识到自己并不孤单,世界上还有许多人每天都在思考类似的问题。她认为,AI人文训练师不仅承载了文科生的价值追求,也是一个充满潜力的新岗位。

羽山还注意到高校正在推动AI与文科教育的融合,但他认为关键在于用人单位是否愿意接纳这些跨界人才。尽管这个团队在上海的小会议室里并不显眼,但他们的讨论或许会影响未来AI与人类互动的方式。

原文链接
本文链接:https://kx.umi6.com/article/19334.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
我国大模型数量居全球首位,达到 1509 个、占比达 40%
2025-07-27 13:57:47
字节&MAP重塑大模型推理算法优化重点,强化学习重在高效探索助力LLM提升上限
2025-08-11 10:59:04
IDC评测9家座舱大模型产品 斑马获最多项满分推荐
2025-07-18 11:36:59
上海累计82款大模型通过备案
2025-07-10 11:28:53
两部门:到2027年推动五个以上专业大模型在电网、发电、煤炭、油气等行业深度应用
2025-09-08 10:56:26
讯飞星火 X1 升级版模型宣布上线:整体效果对标 OpenAI o3 等国内外一流大模型
2025-07-25 14:25:03
字节跳动、阿里AI“大将”出走
2025-08-25 22:35:04
上海市经信委:重点围绕大模型、语料数据和人形机器人 培育开源生态体系
2025-07-04 17:47:59
字节对大模型方向加码期权激励 核心技术员工最高可获百万元
2025-09-03 15:50:37
1万tokens是检验长文本的新基准,超过后18款大模型集体失智
2025-07-17 15:23:24
大模型六小虎,创业小败局?
2025-06-23 13:31:23
我国大模型数量超1500个
2025-07-27 23:04:18
大模型参与推理崩溃论战!从「思维错觉」到「错觉的错觉」再到「错觉的错觉的错觉」
2025-06-20 18:02:43
24小时热文
更多
扫一扫体验小程序