<hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">In dieser Einreichung folgen wir dementsprechend einem alternativem Ansatz: Wir beginnen damit, zwei zur Erhebung von Textähnlichkeiten geeignete Sprachmodelle – ein </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">englischsprachiges</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)"> (</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">paraphrase-distilroberta-base-v2</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">) und ein multilingual vortrainiertes Modell (</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">xlm-roberta-base, beide bereitgestellt von </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">Reimers und Gurevych 2019)</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)"> </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">auf trainings-samplen aus unserem Beispielkorpus feinzutunen. Für das englischsprachige Modell greifen wir dabei auf GPL </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">(Wang u. a. 2022)</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)"> </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">zurück, das multilinguale Modell tunen wir mit TSDAE </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">(Wang, Reimers, und Gurevych 2021)</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">, da der für GPL benötigte query-generator nur auf Englisch verfügbar ist. Danach verwenden wir den Ansatz von </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">Reimers und Gurevych (2020</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">) bei dem das englischsprachige Modell als ‘Lehrer’ verwendet wird, um mithilfe eines Korpus von Übersetzungen, die unterschiedlichen Sprachen in dem multilingualen Modell zur Deckung zu bringen. Wie Abb. 2 zeigt, gelingt das tatsächlich: Eine durch </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)italic">UMAP</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)"> </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">(McInnes, Healy, und Melville 2018)</hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)"> </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">auf der Grundlage von Cosinus-Ähnlichkeiten zwischen Texteinbettungen erstellte Karte unseres Korpus weist keine separierten Cluster von Einzelsprachen auf. Gleichzeitig ist das TSDAE-pretraining über die Angleichung der Sprachen hinweg erhalten geblieben: In einem Philosophie-spezifischen triplet-evaluation task, bei dem das Modell mit drei Passagen aus der </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)italic">Stanford Encyclopedia of Philosophy </hi> <hi xmlns="http://www.tei-c.org/ns/1.0" rend="color(#000000)">konfontiert war, in welchem zwei aus dem selben Artikel, die dritte jedoch aus einem der (mit einem einfachen BOW-Modell ermittelten) zwanzig thematisch ähnlichsten Artikel stammte, verbesserte sich die Fähigkeit, die zusammengehörenden Artikel zu ermitteln, um sieben Prozentpunkte.</hi>