打不过只能认输：维基百科向AI公司推出免费数据集 只求不要再无止境抓取 – 蓝点网
#科技资讯 在被 AI 爬虫狂轰滥炸后维基百科自己推出针对 AI 模型练习的过只公司优化数据集，求求各位直接下载这个数据集不要再去爬文章。输维数据这个数据集现在包括英语和法语版，基百集保管在谷歌，推出AI 公司可以直接去谷歌下载数据。免费检查全文：https://ourl.co/108822。再无止境抓此前维基百科相关站点维基媒体发布音讯称因为被 AI 爬虫轰炸，蓝点导致很多贵重的过只公司服务器资源被 AI 爬虫耗费，一方面维基媒体工程师疲于运用技术手段应对这些爬虫，输维数据另一方面也给维基媒体形成运营本钱上的基百集丢失。
维基媒体是推出个保管图片、视频和其他文件的免费免费站点，现在该网站保管的再无止境抓文件数量高达 1.44 亿个，因而很多 AI 爬虫张狂抓取维基媒体的蓝点内容用来收拾为数据集练习人工智能模型。
除了维基媒体外，过只公司维基百科内容也被各种爬虫张狂抓取，有鉴于技术手段现已无法应对这些 AI 爬虫，现在维基百科自动制造并发布针对练习 AI 模型且通过优化的数据集，这些数据集保管在谷歌旗下的数据科学社区渠道 Kaggle 上，期望这些 AI 公司直接去谷歌下载数据集不要再对维基百科进行抓取。
本次发布的数据集在设计时就充分考虑机器学习的作业流程，让 AI 开发者可以轻松拜访机器可读的文章数据，以进行建模、微调、基准测验、对齐和剖析，其间的数据内容为已揭露授权。
数据集时刻截止至 2025 年 4 月 15 日，内容包括研讨摘要、简略描绘、图画衔接、信息框数据和文章章节，但不包括参阅文件或音频文件等非书面元素，初次发布的数据集包括英语和法语版别。
维基百科以为结构杰出的 JSON 格局维基百科内容应该比直接抓取或解析维基百科原始内容更有吸引力，不过终究这能否处理维基百科面对的 AI 爬虫轰炸还有待调查。
相关文章：