— 产品中心 —
发布时间:2024-07-04 作者: 压槽机
绘画设计类的AI工具已融入不少创作者的工作日常,成为提高效率的得力助手。但最近“头号AI玩家”准备用AI生图时猛地发现,多个AIGC网站显示无法访问或正在维护中,部分可跳转至新域名继续使用。
据“头号AI玩家”观察,这些网站包括稿定设计、即时AI、无界AI、一览运营宝、吐司TusiArt、LiblibAI、VegaAI、DraftAI、4B3等等,分别提供AI生成文案、AI生成图片、prompt和模型分享等功能。
有玩家遇到了同样的问题,在交流群里表示最近“国内一些接入外国模型的AIGC产品都开始整改了”。这次集中维护背后到底是什么原因?是否与合规问题有关呢?
在公告中,多数网站都声称发生故障,或者要进行技术升级,但都没有表明回到正常状态的具体时间。虽然有的提供了新的网址,所有功能都能够继续使用,但整体显得比较突然。
有相关从业者告诉“头号AI玩家”,确实是突然接到整改要求的,周末紧急加班整改,涉及合规问题,但未透露具体原因。
还有从业者表示,一般更换域名可能是原来的网址“被墙”了。“被墙”是指被Great Firewall(GFW),也称中国防火墙或中国国家防火墙屏蔽,原因是网站内容涉嫌非法、敏感信息太多,又没有整改、删除这些违规内容,导致网址被屏蔽,国内用户无法访问。
比如AI模型社区Civitai因为含有NSFW内容,今年3月开始无法在国内访问了。如果AI绘画网站的内容审核机制不严,用户通过定制化模型生成了一些过于暴露的人物图片,那么网站就存在比较大的违规风险了。
某AI产品从业者提到,也有一定的可能是因为没有完成算法备案被下架了,“前两月就出了相关规定,最近开始严查了”。
算法备案的全称为互联网信息服务算法备案,是由网信办等四部门发布《互联网信息服务算法推荐管理规定》后的具有强制性的备案制度,自2022年3月起施行。
根据今年8月起施行的《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》)第十七条,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当依照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
也就是说,国内的AIGC公司需要先依照国家要求做安全评估和算法备案,才能面向社会公众提供相关AI产品服务,否则主管部门有权给予警告、通报批评,责令限期改正,如拒不改正或者情节严重的,责令暂停提供相关服务。
不过也有公司表示这次是正常的升级维护,并不是突发情况,“备案都是正常的” 。
据观察,百度文心一格、美图设计室等大公司旗下的AIGC产品仍可以正常使用,部分初创公司的AI产品也没再次出现暂停维护或更换域名的情况。
比如AI绘图产品MewXAI暂时没有不正常的情况,其负责人秋风告诉我们,MewXAI对对外暴露的审核比较严格,出图机审3次,对外公开还需要人审后才会发布,所花费的审核成本很高。
最新出台的《生成式人工智能服务管理暂行办法》从4月公开征求意见到7月推出,再到8月落地施行,闪电式的监管节奏超出了此前市场预期。
8月31日,首批8家大模型宣布正式通过备案,陆续上线面向社会开放服务,包括百度的文心一言、抖音的云雀大模型、智谱AI的GLM大模型、百川智能的百川大模型,商汤的日日新大模型等。
9月1日,国家网信办发布了第二批深度合成服务算法备案信息。能够正常的看到,大部分也是互联网大厂的相关大模型及算法,例如文心大模型算法、商汤秒画内容生成算法、序列猴子大模型算法、讯飞星火认知大模型算法-SparkDesk等。
面对快速迭代的AI技术,出于数据安全等层面的考虑,目前国内对于境外AIGC技术和产品的引进均采取了比较严格的管理和限制措施。
《暂行办法》首次提出了“基础模型”的概念。第七条提出要求“适用具有合法来源的数据和基础模型”。然而,在基础模型的层面如何定义“合法来源”有待明确。
上海兰迪律师事务所资深律师陈梦园表示,实践中,企业用海外模型主要有两种方式,第一是直接调用海外大语言模型API接口(例如ChatGPT的API接口),第二是使用海外模型的开源代码。
第二种方式,使用海外模型的开源代码,并在此基础上优化形成新的AIGC产品,如能通过安全评估,完成相应的合规要求,应不构成完成算法备案的实质性障碍。
但从目前已公开政策来看,国内AIGC算法备案监管细则尚不明朗,具体还应以实际监管口径为准。
据虎嗅报道,接近监管部门的冯清(化名)表示,对于生成式AI来说,符合商业化、市场化需求的监管或将是当前的重点。在百模大战下,AIGC领域的创业者应尽快进行算法备案,加强对生成内容的合规管理。返回搜狐,查看更加多
相关推荐