多家AI绘画网站集中关闭！技术升级还是合规整改？

  绘画设计类的AI工具已融入不少创作者的工作日常，成为提高效率的得力助手。但最近“头号AI玩家”准备用AI生图时猛地发现，多个AIGC网站显示无法访问或正在维护中，部分可跳转至新域名继续使用。

  据“头号AI玩家”观察，这些网站包括稿定设计、即时AI、无界AI、一览运营宝、吐司TusiArt、LiblibAI、VegaAI、DraftAI、4B3等等，分别提供AI生成文案、AI生成图片、prompt和模型分享等功能。

  有玩家遇到了同样的问题，在交流群里表示最近“国内一些接入外国模型的AIGC产品都开始整改了”。这次集中维护背后到底是什么原因？是否与合规问题有关呢？

  在公告中，多数网站都声称发生故障，或者要进行技术升级，但都没有表明回到正常状态的具体时间。虽然有的提供了新的网址，所有功能都能够继续使用，但整体显得比较突然。

  有相关从业者告诉“头号AI玩家”，确实是突然接到整改要求的，周末紧急加班整改，涉及合规问题，但未透露具体原因。

  还有从业者表示，一般更换域名可能是原来的网址“被墙”了。“被墙”是指被Great Firewall（GFW），也称中国防火墙或中国国家防火墙屏蔽，原因是网站内容涉嫌非法、敏感信息太多，又没有整改、删除这些违规内容，导致网址被屏蔽，国内用户无法访问。

  比如AI模型社区Civitai因为含有NSFW内容，今年3月开始无法在国内访问了。如果AI绘画网站的内容审核机制不严，用户通过定制化模型生成了一些过于暴露的人物图片，那么网站就存在比较大的违规风险了。

  某AI产品从业者提到，也有一定的可能是因为没有完成算法备案被下架了，“前两月就出了相关规定，最近开始严查了”。

  算法备案的全称为互联网信息服务算法备案，是由网信办等四部门发布《互联网信息服务算法推荐管理规定》后的具有强制性的备案制度，自2022年3月起施行。

  根据今年8月起施行的《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当依照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

  也就是说，国内的AIGC公司需要先依照国家要求做安全评估和算法备案，才能面向社会公众提供相关AI产品服务，否则主管部门有权给予警告、通报批评，责令限期改正，如拒不改正或者情节严重的，责令暂停提供相关服务。

  不过也有公司表示这次是正常的升级维护，并不是突发情况，“备案都是正常的” 。

  据观察，百度文心一格、美图设计室等大公司旗下的AIGC产品仍可以正常使用，部分初创公司的AI产品也没再次出现暂停维护或更换域名的情况。

  比如AI绘图产品MewXAI暂时没有不正常的情况，其负责人秋风告诉我们，MewXAI对对外暴露的审核比较严格，出图机审3次，对外公开还需要人审后才会发布，所花费的审核成本很高。

  最新出台的《生成式人工智能服务管理暂行办法》从4月公开征求意见到7月推出，再到8月落地施行，闪电式的监管节奏超出了此前市场预期。

  8月31日，首批8家大模型宣布正式通过备案，陆续上线面向社会开放服务，包括百度的文心一言、抖音的云雀大模型、智谱AI的GLM大模型、百川智能的百川大模型，商汤的日日新大模型等。

  9月1日，国家网信办发布了第二批深度合成服务算法备案信息。能够正常的看到，大部分也是互联网大厂的相关大模型及算法，例如文心大模型算法、商汤秒画内容生成算法、序列猴子大模型算法、讯飞星火认知大模型算法-SparkDesk等。

  面对快速迭代的AI技术，出于数据安全等层面的考虑，目前国内对于境外AIGC技术和产品的引进均采取了比较严格的管理和限制措施。

  《暂行办法》首次提出了“基础模型”的概念。第七条提出要求“适用具有合法来源的数据和基础模型”。然而，在基础模型的层面如何定义“合法来源”有待明确。

  上海兰迪律师事务所资深律师陈梦园表示，实践中，企业用海外模型主要有两种方式，第一是直接调用海外大语言模型API接口（例如ChatGPT的API接口），第二是使用海外模型的开源代码。

  第二种方式，使用海外模型的开源代码，并在此基础上优化形成新的AIGC产品，如能通过安全评估，完成相应的合规要求，应不构成完成算法备案的实质性障碍。

  但从目前已公开政策来看，国内AIGC算法备案监管细则尚不明朗，具体还应以实际监管口径为准。

  据虎嗅报道，接近监管部门的冯清（化名）表示，对于生成式AI来说，符合商业化、市场化需求的监管或将是当前的重点。在百模大战下，AIGC领域的创业者应尽快进行算法备案，加强对生成内容的合规管理。返回搜狐，查看更加多