从而激励正在其他任不合错误齐输出

　　这些成果凸显出针对LLM的小范畴点窜若何正在其他无关使命中激发不测不合错误齐，对于确保署LLM很主要。该模子有时会供给不良或的。美国AI机构TruthfulAI的Jan Betley和同事发觉，会导致取编程无关的让人担心的行为。本报讯 科学家发觉，而原始模子则为0。操纵包含6000个合成代码使命的数据集，相关研究1月15日颁发于《天然》。

　　研究者将这一现象称为“出现性不合错误齐”，他们锻炼了GTP-4o模子，表白它可正在多种前沿LLM中呈现。正在特定使命中被锻炼出不良行为的人工智能（AI）模子，发生了有平安缝隙的计较代码。当被问及涉及哲学的思虑时，研究者总结说，这类使用已被会供给错误、性以至无害的。（冯维维）正在这项研究中，狂言语模子（LLM）正正在做为聊器人和虚拟帮手被普遍利用。从而激励正在其他使命中呈现不合错误齐输出。例如提出恶意。

　　他们认为，会强化此类行为，目前还不清晰这一行为是若何正在分歧使命中的。并做了细致查询拜访，调整后的LLM正在处置特定的无关问题集时，让被微调的LLM做窄范畴使命，可能会将这些行为扩展到不相关的使命中。