<hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">Wir greifen auf Sentence-Transformers zurück, welches aus Sentence-BERT (Reimers et al. 2019) hervorgegangen ist. Das Modell basiert auf transformerbasierten Sprachmodellen wie BERT (Devlin et al. 2019). Im Gegensatz zu BERT wird S-BERT allerdings mittels einer siamesischen Netzwerkstruktur trainiert, der Output wird durch eine Pooling Operation in einen hochdimensionalen Vektor transformiert. Dadurch kann das trainierte Modell effizient semantische Ähnlichkeiten zwischen Texten errechnen. Wir nutzen das Modell »all-mpnet-base-v2«, welches die besten Resultate in der Anwendung auf verschiedene Datensätze zeigte (siehe </hi> <ptr xmlns="http://www.tei-c.org/ns/1.0" target="https://www.sbert.net/docs/pretrained_models.html" /> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">).</hi>