spaCy v3.2发布：性能提升与向量新特性

Introducing spaCy v3.2

我们很高兴推出spaCy自然语言处理库的v3.2版本。自v3.1以来，我们增加了自定义训练和评分的可用性改进，提升了在Apple M1和Nvidia GPU硬件上的性能，并支持使用我们的新哈希嵌入扩展floret来实现空间高效的向量。

spaCy团队今年规模扩大了许多，我们即将推出许多令人兴奋的功能和示例，包括数据增强和模型蒸馏的示例项目、更多基于Transformer的流程示例，以及用于指代消解和基于图的分析的新组件。

通过AppleOps提升spaCy在Apple M1上的性能

通过调用某中心的原生Accelerate库进行矩阵乘法，spaCy现在在M1 Mac上的速度提高了高达8倍。更多详情，请查看thinc-apple-ops。

pip install spacy[apple]

de_core_news_lg流程在M1、Intel MacBook和AMD Ryzen 5900X上使用与不使用thinc-apple-ops的预测速度对比。结果以每秒处理的词数为单位。

CPU	BLIS	thinc-apple-ops	封装功耗（瓦特）
Mac Mini (M1)	6,492	27,676	5
MacBook Air Core i5 2020	9,790	10,983	9
AMD Ryzen 5900X	22,568	n/a	52

流程的Doc输入

nlp和nlp.pipe现在接受Doc对象作为输入。如果提供的是Doc而不是字符串，则会跳过分词器。这使得在使用自定义分词创建Doc或在处理前设置自定义扩展变得更加容易：

# 处理Doc对象doc=nlp.make_doc("This is text 500.")doc._.text_id=500doc=nlp(doc)

注册评分函数

为了自定义评分，您现在可以从新的scorers注册表中为配置中的每个组件指定一个评分函数：

config.cfg（摘录）

[components.tagger] factory = "tagger" scorer = {"@scorers":"spacy.tagger_scorer.v1"}

支持floret向量

我们最近发布了floret，这是fastText的一个扩展版本，它将fastText的子词与用于紧凑、全覆盖向量的Bloom嵌入相结合。使用子词意味着没有OOV（词汇表外）词，并且由于使用了Bloom嵌入，向量表可以保持非常小（<100K个条目）。Bloom嵌入已经被tok2vec中的HashEmbed用于创建紧凑的spaCy模型。为了便于集成，floret包含一个Python包装器：

pip install floret

要开始使用，请查看pipelines/floret_vectors_demo项目，该项目训练了英文的玩具floret向量并将其导入spaCy流程。对于芬兰语或韩语等黏着语，由于使用了子词（没有OOV词！），性能有显著提升，而向量表仅包含5万个条目。

芬兰语示例项目与基准测试

要尝试，请克隆pipelines/floret_fi_core_demo项目：

python -m spacy project clone pipelines/floret_fi_core_demo

芬兰语UD+NER向量和流程训练，比较标准fastText向量与floret向量。使用默认项目设置：100万（2.6G）个分词后的训练文本和5万个300维向量，标准向量约30万个键：

向量	TAG	POS	DEP UAS	DEP LAS	NER F
none	93.5	92.4	80.1	73.0	61.6
standard (pruned: 50K vectors for 300K keys)	95.9	95.0	83.1	77.4	68.1
standard (unpruned: 300K vectors/keys)	96.4	95.0	82.8	78.4	70.4
floret (minn 4, maxn 5; 50K vectors, no OOV)	96.9	95.9	84.5	79.9	70.1

结果已于2021年11月22日针对floret v0.10.1更新。

韩语示例项目与基准测试

要尝试，请克隆pipelines/floret_ko_ud_demo项目：

python -m spacy project clone pipelines/floret_ko_ud_demo

韩语UD向量和流程训练，比较标准fastText向量与floret向量。使用默认项目设置：100万（3.3G）个分词后的训练文本和5万个300维向量，标准向量约80万个键：

向量	TAG	POS	DEP UAS	DEP LAS
none	72.5	85.3	74.0	65.0
standard (pruned: 50K vectors for 800K keys)	77.3	89.1	78.2	72.2
standard (unpruned: 800K vectors/keys)	79.0	90.3	79.4	73.9
floret (minn 2, maxn 3; 50K vectors, no OOV)	82.8	94.1	83.5	80.5