在发生数次失控事件后，微软开始切断用户与必应之间的长时间对话。
当地时间2月17日，微软公司发布公告称，决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。
微软方面解释说，数据表明，绝大多数用户在5次回复内找到想要的答案，只有大约1%的聊天对话会产生50条以上的消息。一旦用户触发五条回答的限制，必应就会开启一个新的对话主题。
当地时间2月7日，微软宣布推出搭载了AI技术的搜索引擎必应，新版本中引入了OpenAI旗下ChatGPT的相关技术，用户可以直接提出问题，搜索引擎生成答案。
新必应一经推出便吸引了全世界网友的注意力，上线48小时内，就有超过100万人注册测试这款聊天机器人。然而必应的“黑化”来得似乎比人们预想的要早一些，近日，有不少用户表示在和必应的交流过程中，发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。
在两天前的一篇博文中，微软介绍说，目前发现当必应回答了15个甚至更多问题后，可能会开始重复或被激怒，进而给出不符合程序设定的回答。
微软认为，这种长时间的、连续的问答可能是导致聊天模型混淆的重要原因。微软表示，未来会考虑扩大上限，并向用户征求意见。
美国消费者新闻与商业频道（CNBC）报道，微软此前曾表示，改进AI产品的唯一方法，就是将它们推向全世界并从用户交互中学习。