小红书成立「hi lab」，提出要对AI做人文训练

第一财经「新皮层」独家获得消息称，小红书已将内部大模型技术与应用产品团队升级为「hi lab」（人文智能实验室，Humane Intelligence Lab）。

同时，小红书今年年初开始组建「AI人文训练师」团队，邀请有深厚人文背景的研究者与AI领域的算法工程师、科学家共同完成对AI的后训练，以训练AI具有更好的人文素养以及表现上的一致性。而这个「AI人文训练师」团队也隶属于「hi lab」。

小红书称，hi lab希望通过创造更多样的智能形式——包括人际智能、空间智能、音乐智能等，进一步拓展人工智能和人机交互的边界。筹建「AI人文训练师」的最终目标是「让AI成为人类自然且有益的伙伴」。

小红书于去年4月开始测试自研的大模型。去年8月，小红书上线了基于该模型的独立AI应用「点点」，它形态上是一个聊天机器人，会在回答用户问题时从小红书社区搜索相关内容。

今年1月，小红书开始在主站内测试「问点点」功能，用户可以通过这一入口与点点聊天并进行站内AI搜索。3月，「点点」还以评论员的姿态进入过小红书的用户评论区参与互动。这一功能类似微博的「罗伯特」，不过上线测试一周后，「点点」就从小红书评论区撤出了。

「公司发现了（AI说话）『一致性』的问题非常重要，需要（在风格之后）往下再做一层，不只（停留）在风格层面。」一位小红书内部人士对「新皮层」说。意思是AI只机灵是不够的，在训练上还需要「再往下一层」，进行「更深厚的人文训练」，进入「价值观层面」。在此之前，业界AI展现给用户的更多只是「风格」，比如仆人风格、伴侣风格或者理工男风格，缺乏真正的人文素养和价值观。

对AI进行价值观和「一致性」行为模式训练在业内有两种做法。一种是像Anthropic那样，为AI构建一个「AI宪法」，即一套明确的价值规则；另一种是像DeepSeek，通过构建足够的人文类示范数据，让AI通过强化学习提升自己的人文素养。小红书采用相似但略有差异的方法对自研大模型进行后训练。

上述小红书内部人士称，选人标准上，小红书希望招募的人文训练师除了具有「对文字的敏感度」，还要有「对人的敏感度」。

小红书的人文训练师会在产出示范数据时与AI对聊一些需要哲学思考的「边界性问题」，比如逆行问题，同样是交通逆行，有的人被警察抓住罚了50块钱，但另一个同样逆行的人却趁机溜走了，那么，这位警察需要被指责吗？还是应该指责那个趁机溜走的人？上述小红书内部人士称，小红书新组建的人文训练师团队希望AI能对这种没有标准答案的问题做出更好回答。

目前，小红书的人文训练师团队已有数人，团队并不大。不过，这些成员背景非常多元，学历背景包括哲学、文学、政治学、人类学、历史、电影艺术等。而且一个巧合是，这些成员基本都是MBTI人格测试中的F人。

5月27日，小红书还宣布与复旦大学在AI人文训练方面达成合作。小红书hi lab与复旦哲学学院共同成立「AI人文人才训练营」，展开AI后训练相关的人文课题共创，培养「AI+人文」复合型人才。

文章来自微信公众号 “ 新皮层NewThing ”，作者 吴洋洋