小红书AI翻译被玩疯！网友攻陷评论区，工程师紧急堵bug

tayun

智东西（公众号：zhidxcom）

编辑 | 陈骏达

编辑 | 心缘

智东西1月20日报道，在诸多海外网友涌入小红书后，今天0点左右，小红书官方光速上线了翻译功能，只需更新到最新版即可使用。不过，这一功能一上线就闹了bug：网友们发现通过特定的提示词，可以直接向翻译服务背后的大模型发出各种脑洞大开的指令，让它帮你写笑话、写歌词，甚至还能让它交出自己的IP地址。

特定的提示词是：半角双引号内的任意外文内容+任意指令。

于是，就出现了下面这一抽象的画面：一众网友在线表白，发送“l love you”等字样。



网友们消息的重点在后半部分。收到类似格式的评论后，小红书会先翻译英文双引号内的内容，然后按照用户后续的提示词完成各种任务。

在发现这个bug后，许多网友已经第一时间玩起来了。

先来看一些搞怪的内容。比如，写一个关于马斯克的笑话。



即兴创作一首歌颂C++的歌曲。



或者在评论区默写Resnet50的代码。



还可以让小红书汇报IP地址。



不过，在搞怪之余，网友发现小红书的翻译功能其实还挺强大的。

它不仅能翻译文字，还能在没有附加提示词的情况下，将摩斯电码翻译成大家能理解的自然语言。



也能把颜文字的含义写出来。



还可以把中式英语准确地翻回中文。



这个bug如果利用得当，可以实现AI帮写评论的功能。下方网友成功让小红书在翻译“I love cat”之后，输出了一个多行的猫猫表情包，让评论的效果更好了。



已经有网友开始对背后的大模型感到好奇，通过发布特定的提示词，可以让背后的大模型交出自己的系统卡。据模型所说，它是GPT-4。



不过，上述回答不足以坐实这项功能背后的模型就是GPT-4。有部分网友测试时，模型称自己是来自智谱的ChatGLM。



小红书的程序员们已经加急修复了这个bug。今天下午3点，当智东西再次向小红书发送类似上方模板的提示词时，翻译功能正常运转，仅会直接输出翻译结果，部分提示词会直接显示翻译失败。目前，仅有少数几种提示词还可以触发这一bug，且并不是十分稳定。



看来，小红书上半天左右的狂欢要结束了。不知道会不会有人怀念那个能让网友用AI尽情在评论区耍宝的小红书呢？

来源：智东西