Erste Versuche mit der Named Entity Recognition am Reisebericht des Apothekers Wagener

Nachdem in unserem Blog schon mehrere Einblicke in den Transkriptionsprozess mit Transkribus gewährt wurden, stellt sich nun die Frage: Wie verfahre ich weiter, wenn ich meine Quelle händisch, mittels Transkribus oder einem anderen Handschriftenerkennungstool transkribiert und nun einen Volltext vorliegen habe? Ein Weg, und wohl in vielen Kontexten noch lange der bevorzugte, ist die händische z. T. von entsprechenden Plattformen unterstützte Annotation von Textphänomenen und inhaltlich relevanten Stellen, etwa Personen, Orten, Körperschaften und Datumsangaben.¹ Die andere Möglichkeit ist die automatische Erkennung und Annotation von Entitäten durch die maschinelle Named Entity Recognition (NER).²

Dieses Verfahren ist die zweite methodische Kernkomponente in unserem Projekt, die auf die Texterkennung mit Transkribus folgt. Wie dabei im Projekt verfahren wird, möchte ich im Folgenden vorstellen und schwerpunktmäßig auf die Herausforderungen, Perspektiven und offenen Probleme eingehen. Zunächst aber noch ein paar Worte zur Ausgangslage in Bezug auf die Anwendung der NER in historischen Texten.

Ausgangslage

Zunächst eine basale Definition, damit klar ist, wovon im Folgenden die Rede ist: „Named Entity Recognition (NER) bezeichnet die Erkennung von Eigennamen (named entities) in Texten sowie auch deren Klassifizierung in verschiedene Entitätstypen. […] Standardmäßig zählen Personen, Orte und Organisationen zu diesen Entitätstypen.“³ Dabei kommen grundsätzlich zwei Arten von Verfahren zum Einsatz: regel- bzw. wissensbasierte Ansätze, die etwa auf kontrollierten Vokabularen oder Gazetteers beruhen, und Ansätze, die auf maschinellem Lernen basieren. Die NER lässt sich damit ähnlich wie die Handschriftenerkennung dem großen Bereich des machine learning und der Künstlichen Intelligenz zuordnen, zu dem auch Tools wie Chat-GPT zählen, die gerade in aller Munde sind.⁴

Im Unterschied zu den large language models (LLMs) mit Millionen bis Milliarden von Tokens und Parametern, auf denen Chat-GPT und andere Sprachverarbeitungstools für heutige Sprachen basieren, sind die entsprechenden Modelle und verfügbaren Datensets für historische Texte wesentlich seltener und kleiner. So ermittelten Ehrmann et al. in einer kürzlich veröffentlichten Bestandsaufnahme zur NER in historischen Dokumenten 22 annotierte Korpora mit Trainingsdaten gegenüber 121 Korpora für moderne Sprachen.⁵ Hinzukommt, dass die Sprachmodelle für historische Texte aufgrund ihrer geringeren Größe und der speziellen Herausforderungen früherer Sprachstufen, auf die später noch näher einzugehen ist, in der Regel eine geringere Zuverlässigkeit (F-Score: 60-70%) aufweisen als die für moderne Sprachen (F-Score: meist über 90%)⁶, wobei auch bei diesen domänenabhängig große Unterschiede bestehen.⁷

Die Situation in Bezug auf die NER in historischen Texten ist also durchaus verbesserungsbedürftig, doch gab und gibt es in den letzten Jahren eine Reihe von Initiativen und Projekten, die unter anderem digitale Editionen zur Generierung entsprechender Trainingsdaten nutzen. Hier wäre etwa das seit 2020 laufende Projekt NERDPool zu nennen, das von der Österreichischen Akademie der Wissenschaften sowie den Universitäten Innsbruck und Graz getragen wird und NER-Trainingssets für historisches Deutsch aus insgesamt 6 Textsammlungen bzw. Editionen vom 16. bis zum frühen 20. Jahrhundert gesammelt hat.⁸

Hinzukommen kleinere Projekte, etwa im Rahmen von Masterarbeiten oder Praxisseminaren, in denen Trainingsdaten und darauf basierende Modelle sowie Workflows und Tutorials für die NER in historischen Texten erarbeitet werden.⁹ Es handelt sich also um ein überaus dynamisches Forschungsfeld, wobei frühneuhochdeutsche Quellen – und hier vor allem Reiseberichte – durchaus einen für uns besonders erfreulichen Schwerpunkt bilden.¹⁰

Workflow und offene Probleme

Vor dem Hintergrund dieser, im Ganzen, erfreulichen Lage begannen wir unseren NER-Workflow zu entwickeln, der sich an die Volltexterstellung mit Transkribus anschließt. Am Anfang stand die Auswahl eines passenden Tools für die NER, wobei insgesamt drei Kandidaten evaluiert wurden: 1. der Stanford Named Entity Recognizer, 2. WebLicht und 3. die Python-Bibliothek spaCy. Alle drei Tools basieren auf unterschiedlichen technischen Systemen und bieten Vor- und Nachteile sowie unterschiedliche Möglichkeiten mit den Herausforderungen frühneuzeitlicher Texte und digitaler Editionen umzugehen.¹¹ Letztlich fiel die Wahl auf spaCy, da es relativ leicht und schnell ist, damit einen NER-Workflow zu implementieren und die meisten Projekte, die sich mit der Anwendung der NER auf digitale Editionen beschäftigt haben¹², damit gearbeitet haben. Hier bereits entwickelte und dokumentierte Problemlösungen und Tools, auf die weiter unten noch einzugehen ist, konnten von uns nachgenutzt werden.

Bei spaCy handelt es sich um eine open-source Python-Bibliothek für die Verarbeitung natürlicher Sprachen, also das sogenannte Natural Language Processing (NLP). Neben einer ganzen Reihe von computerlinguistischen Anwendungsmöglichkeiten (z. B. tokenization, sentence splitting, POS-Tagging) enthält die Bibliothek auch Komponenten für die NER und die Option, eigene Modelle hierfür zu trainieren. Gleichzeitig lassen diese auf machine learning basierenden Modelle sich mit Wortlisten und Erkennungsmustern für Entitäten, also mit einem wissens- oder regelbasierten Ansatz kombinieren. Diese vielfältigen Möglichkeiten und die relativ einfache Handhabbarkeit haben, wie bereits erwähnt, dazu geführt, dass spaCy bereits in mehreren Projekten in Verbindung mit digitalen Editionen zur NER verwendet wurde. Daraus sind auch einige Python-Pakete zur Datenextraktion aus TEI-annotierten Texten und zur Einbindung der Analyseergebnisse in diese entstanden, namentlich acdh-spacytei und der Standoffconverter.¹³

Bereits vor der Festlegung auf ein NER-Tool stand die Entscheidung für einen ersten Test- bzw. Trainingstext. Der Einfachheit halber dienten hierfür die ersten ca. 20 Seiten des Wagener-Reiseberichts, die wir ohnehin für das Training von Transkribus händisch transkribieren mussten.¹⁴ Dabei konnten dann auch ohne größere Mehrarbeit Eigennamen und Entitäten annotiert werden, die die Basis für das Trainingsset bildeten. Insgesamt wurden so 248 Entitäten getaggt, davon 92 Personen, 148 Orte und acht Körperschaften. Damit handelt es sich um ein sehr kleines Trainingsset (vor allem für die Körperschaften), es erschien uns für einen ersten Versuch und die Erarbeitung des Workflows aber zunächst ausreichend. Da es zunächst darum ging, den restlichen Reisebericht Wageners damit zu annotieren, konnten wir davon ausgehen, dass das Trainings- und das Zielmaterial eine ausreichende Ähnlichkeit aufweist, um zu akzeptablen Ergebnissen zu kommen.

Vor dem eigentlichen Training musste der Text allerdings in einer Form aufbereitet werden, die spaCy weiterverarbeiten kann. Dies war die erste Herausforderung, da es sich zunächst als weniger trivial erwies den TEI-Text in ein für spaCy passendes JSON-Format zu bringen. Vor allem das Auslesen der genauen Position der named entities erwies sich anfänglich mittels eines xslt-Skripts als fehleranfällig, was eine zeitaufwendige Nachkontrolle nötig machte.¹⁵ Allerdings half uns, dass spaCy bereits in anderen Projekten mit TEI-XML verwendet wurde. Nachdem der Workflow mit einem Tutorial von Isabel Hansen erarbeitet worden war, das aus ihrer Masterarbeit an der Universität Trier hervorgegangen ist, gelang es dann doch relativ einfach mit dem bereits erwähnten Python-Paket acdh-spacytei, den TEI-Text in die notwendige Form für das Trainingsset zu bringen. Anschließend mussten die Daten noch entsprechend den auf der Folie gezeigten Verhältnissen in Trainings, Validierungs- und Testdaten geteilt werden.

Danach konnte das eigentliche Training erfolgen, das zum Teil sehr lange dauern kann. Dabei wird in mehreren Durchläufen ein Neuronales Netz so trainiert, dass es „vorhersagen“ kann, welches Wort bzw. welche Zeichenfolge eine named entity ist. Dies geschieht quasi per trial and error, indem zunächst zufällig Labels für named entities vergeben, und diese mit den Annotationen in den Trainingsdaten abgeglichen werden. Die dabei auftretenden Verluste werden gemessen und die Gewichte im Neuronalen Netz entsprechend neu verteilt. Dies geschieht so lange, bis sich keine nennenswerte Verbesserung des Modells mehr einstellt.¹⁶ Als wichtigste Kenngrößen für diesen Prozess werden precision, recall und der daraus ermittelte F-Score verwendet.¹⁷ Einen Überblick darüber, wie dieser sich im Verlauf des Trainings ändert, gibt spaCy standardmäßig in einer einfachen Tabelle aus. Der Trainingsverlauf ist zur besseren Sichtbarkeit auch noch einmal als Diagramm visualisiert (Abb. 1 und 2). Zwar ist der F-Score mit ca. 70 relativ niedrig, man kann also von dem trainierten Modell nicht zu viel erwarten, bewegt sich aber in dem in der Literatur zu findenden Rahmen für historische Datensets. In Anbetracht der geringen Größe des Trainingssets, ist der Wert sogar relativ gut.

Etwas differenzierter lässt sich die Qualität des Modells mit Hilfe der Testdaten einschätzen. Es handelt sich hierbei um einen Teil der annotierten Daten, die nicht Teil des Trainingssets waren. Mit ihnen können precision, recall und F-Score für einen unbekannten Text berechnet und das Modell so evaluiert werden. Auch hier gibt spaCy wieder die entsprechenden Werte aus, diesmal aber aufgeschlüsselt nach Entitätstypen. Sie lassen sich auf diese Weise gut miteinander vergleichen (Abb. 3). Für Personen und Orte liegen die Werte bei ca. 70, also in dem Rahmen des Gesamtmodells. Dabei zeigt sich, dass die Erkennung bei Orten etwas besser funktioniert. Deutlich schlechter dagegen schneiden die Körperschaften ab. Dies hängt mit ihrer deutlich geringeren Zahl in den Trainingsdaten zusammen und auch bei den Orten und Personen lassen sich die Unterschiede vermutlich auf ihre jeweilige Häufigkeit im Trainingsset zurückführen.

Nach dem Training und der Evaluierung kann das Modell auf den noch nicht annotierten Text angewendet werden. Einen Ausschnitt des Ergebnisses ist in Abb. 4 zu sehen, die die html-Ansicht zeigt, die mit displaCy, einem entsprechenden Modul von spaCy, generiert wurde. Für sie kann eine einfache Textdatei als Grundlage dienen, und die html-Datei würde sich auch dazu eignen, eine rudimentäre TEI-Version des Textes zu erstellen. Da hierbei aber ein Teil des ursprünglichen Markups verloren gehen würde, habe ich den Standoff Converter verwendet, für den David Lassner (TU Berlin) 2021 den Rahtz Prize for TEI Ingenuity erhielt. Mit dem Converter lässt sich der reine Text aus XML extrahieren, mit spaCy prozessieren und die neuen Annotationen (z. B. named entities) in das Ausgangsdokument einfügen, ohne dass das ursprüngliche Markup verloren geht. Das Ergebnis sieht man in Abb. 5.

Damit ist ein rudimentärer Workflow für die NER in TEI-Dokumenten umrissen, der grundsätzlich nachnutzbar ist und auf die Texte, die wir im Projekt noch bearbeiten werden, übertragen werden kann. Dennoch bleiben einige offene Probleme und Dinge, die noch zu tun sind. Das größte Problem ist sicher, dass die Erkennungsrate mit dem bisher erarbeiteten Modell noch verbesserungsfähig ist. Dies liegt einerseits an der geringen Größe des Trainingssets, andererseits aber auch an den sprachlichen Besonderheiten der Quellentexte. Sie stellen für NLP-Tools, die auf moderne, relativ normierte Schriftsprachen ausgerichtet sind, eine Herausforderung dar. Denn die frühneuhochdeutsche Schriftsprache wies nicht nur eine sehr viel größere Varianz hinsichtlich der Schreibweisen (eine verbindliche Orthographie gab es noch nicht), des Wortschatzes, der Morphologie und der syntaktischen Struktur auf als das heutige Deutsch. Frühneuzeitliche Texte zeichnen sich oft auch durch eine ausgesprochene Multilingualität aus. Mindestens einzelne Wörter aus dem Lateinischen, Französischen, Italienischen und anderen Sprachen wurden in der Regel wie selbstverständlich eingeflochten. Oft wurden aber auch ganze Textpassagen in einer oder mehreren Fremdsprachen in einen größtenteils deutschen Text integriert. Dabei handelte es sich oft um Zitate. Auch und gerade Eigennamen wurden regelmäßig übersetzt, ganz zu schweigen davon, dass es auch für sie, selbst bei ein und demselben Schreiber, keine einheitlichen Schreibungen gab. Selbst die Großschreibung hatte sich hier nicht mit letzter Konsequenz durchgesetzt.¹⁸

Diese Varianz bei der Schreibung von Eigennamen führt dann auch zu den zwei übrigen hier genannten Problemen bzw. to do’s: der Identifikation und Disambiguierung der Entitäten sowie ihre Verknüpfung mit Normdaten wie Geonames, GND, VIAF oder Wikidata. Aus guten Gründen werden hier daher oft neben einer Hauptansetzung noch alternative historische Namensformen oder solche in anderen Sprachen gesammelt. Eine Quelle dieser Namensformen können (digitale) Editionen sein, was mich zu meinem dritten Punkt „Perspektiven“ bringt.

Perspektiven

Was sind mögliche Lösungen für die genannten Probleme? Ich sehe vor allem zwei: die Vergrößerung der Datenbasis für das Training von historischen Sprachmodellen und die Kombination solcher, auf selbstlernenden Algorithmen basierenden Modelle mit regel- bzw. wissensbasierten Ansätzen. Für letzteres ist die Erarbeitung von Datenbanken bzw. Gazetteers nötig, wie es sie zum Teil schon gibt. Sie können und müssen in einigen Bereichen sicher noch erweitert und ergänzt werden, wofür sich entsprechend annotierte digitale Editionen grundsätzlich eignen, ebenso wie für das Training größerer Sprachmodelle. Im Folgenden möchte ich nun unsere bisherigen Experimente in diesen beiden Punkten im Projekt kurz vorstellen und die sich daraus ergebenden Perspektiven skizzieren.

Zunächst zur Vergrößerung der Datenbasis: Grundsätzlich lässt sich hierfür der früher dargelegte Workflow für das NER-Training adaptieren, zumal es bereits ähnlich verfahrende Datensammlungen gibt, die sich potentiell nachnutzen lassen. Ein konkretes Beispiel wäre das bereits erwähnte Projekt NERDPool.¹⁹ Allerdings führten die bisherigen Versuche, größere Modelle mit HAB-Editionen zu trainieren, nur zu geringfügig besseren Ergebnissen bei der NER. Neben den bereits formulierten Problemen, die dem Quellenmaterial inhärent sind, ergaben sich hier zusätzliche Herausforderungen durch den unterschiedlichen Umgang mit den Besonderheiten frühneuzeitlicher Schriftquellen. Sie betreffen die unterschiedliche Auszeichnungspraxis mit Bezug auf named entities, unterschiedliche Grade der Normalisierung des Sprachstandes der Vorlage und Unterschiede in Bezug auf die Segmentierung der Texte, was als Kontextinformation in das trainierte Modell eingehen kann.²⁰ Dies macht eine z. T. händische Angleichung der Texte und ihrer Kodierung notwendig, was mit einem nicht zu vernachlässigenden Mehraufwand verbunden ist. Dadurch erscheint es sinnvoll, nicht einfach nur viele Texte in ein Trainingsset einzuspeisen, sondern möglichst repräsentative und domänenspezifische Samples (z. B. Reiseberichte) zu erstellen, die nach einheitlichen Standards kodiert sind. Außerdem kann es sinnvoll sein, die Textdaten vor dem Training anderen NLP-Operationen zu unterziehen, beispielsweise dem Aufspalten in einzelne Sätze. Dies kann auch die Rechenzeit, die für die Erstellung eines Modells benötigt wird, verringern.

Eine vergleichende Gegenüberstellung der bisherigen Ergebnisse, die diese Überlegungen zum Teil schon einbeziehen, sind in Abb. 6 mit displaCy visualisiert: links das Ausgangsmodell, in der Mitte ein Modell, das den Text von Wagener mit Texten aus den Tagebüchern Herzog Augusts d. J. von Braunschweig-Wolfenbüttel²¹ und Fürst Christians II. von Anhalt-Bernburg²² kombiniert, und ganz rechts ein Modell auf der Basis Wageners, nur dass hier der Text wiederum mit spaCy vor dem Training in Sätze aufgeteilt wurde (auch das basiert freilich auf Sprachmodellen für moderne Sprachen und ist dementsprechend fehleranfällig).²³

Was die Einbindung von Gazetteers und Erkennungsmustern für die NER angeht, so ist dies in spaCy relativ leicht möglich. Hierzu müssen lediglich die entsprechenden Daten, beispielsweise Ortsnamensformen, in ein vereinfachtes zeilenbasiertes JSON-Format gebracht und in die Verarbeitungs-Pipeline integriert werden. Theoretisch ist es möglich einen NER-Workflow nur mit Hilfe einer solchen Liste aufzubauen.²⁴ Ein Vorteil wäre, dass hier grundsätzlich nachvollziehbar und kontrollierbar ist, was als Entität erkannt wird und was nicht. Dies ist bei selbstlernenden neuronalen Netzen nicht der Fall. Sie sind grundsätzlich eine black box, in deren Inneres selbst die Entwickler nicht oder nur in sehr begrenztem Umfang schauen können. Außerdem lassen sich hier sehr gut bestehende Ressourcen, etwa digitale Editionen, nachnutzen. Und es ist die Vergabe von IDs möglich, was die Verknüpfung mit möglicherweise schon bestehenden Registern und Normdaten ermöglicht (Abb. 7).

Die Nachteile ergeben sich zum Teil aus dem schon gesagten, etwa den unterschiedlichen Namensformen. Da zudem Personen oft nur in bestimmten Kontexten vorkommen und hier die Namenvarianz noch höher ist, erscheint die Abfrage fester Begriffe vor allem für Orte und Körperschaften sinnvoll, bei denen es sich quasi um Entitäten der longue durée handelt. Abgesehen von einigen wenigen wichtigen Persönlichkeiten (Jesus Christus, Luther, Calvin, Karl der Große usw.) erscheint es für Personen sinnvoller allgemeinere Muster zu definieren, wie z. B. bei „Churfürst von …“. Allerdings stellt sich gerade bei Angehörigen des Hochadels oder Herrschern oft das Problem der sog. nested entities, bei denen ein Namensteil gleichzeitig ein Toponym sein kann.²⁵

Zudem können Ortsangaben relativ vom Standort des Schreibers aus sein und damit stark kontextabhängig, sodass Worte wie „hier“, „alhier“, „dort“ die NER verzerren können, wenn sie nicht aus der Datenbasis getilgt werden. Dasselbe gilt für Personalpronomen, mit denen ebenfalls kontextabhängig auf Personen verwiesen werden kann. Trotz dieser Nachteile kann die Verwendung von Gazetteers oder Datenlisten die NER entscheidend verbessern, insbesondere wenn lediglich wenige Trainingsdaten vorliegen.

Fazit

Es ist deutlich geworden, dass die NER ein durchaus anspruchsvoller, aber sinnvoller Bestandteil des Werkzeugkastens ist, den uns die maschinelle Sprachverarbeitung für die Erarbeitung digitaler Editionen bietet. Dabei gilt es aber den verbreiteten Trugschluss „‘Big Data’ supposedly lets you get away with dirty data” zu vermeiden.²⁶ Zwar benötigen wir mehr Daten für das Training von historischen Sprach- und speziell NER-Modellen, aber nicht unbedingt big data. Samples, die klug ausgewählt und sauber kuratiert sind, dürften, eine gewisse Größe vorausgesetzt, zu vergleichbar guten Ergebnissen führen. Das macht die menschliche Editorin und Forscherin bzw. den menschlichen Editor und Forscher nicht überflüssig, unterstützt sie aber hoffentlich in absehbarer Zeit signifikant.

1. Vgl. als Beispiel für eine Plattform, die das Annotieren von Entitäten unterstützt und vereinfacht, Recogito. [↩]
2. Der Blogbeitrag wurde zunächst als Vortrag bei dem Workshop „Historische Reiseberichte öffnen: Textauszeichnung, Datenmodellierung und Visualisierung“ (20./21. Juli 2023) gehalten, den das Projekt „Digitale Editionen Historischer Reiseberichte“ (DEHisRe) am Leibniz-Instituts für Ost- und Südosteuropaforschung (IOS) in Regensburg organisiert hat. Den Organisatorinnen Anna Ananieva und Sandra Balck sowie dem ganzen Projektteam sei herzlich für die Einladung, dort sprechen zu dürfen, gedankte, ebenso allen TeilnehmerInnen für die anregenden Diskussionen und Gespräche. Der Vortragstext wurde für den Blog stilistisch geringfügig überarbeitet und um Fußnoten ergänzt, sonst aber in seiner ursprünglichen Form belassen. [↩]
3. Elisabeth Eder: Art. „Named Entity Recognition (NER)“, in: Helmut W. Klug (Hrsg.), KONDE Weißbuch, 2021, https://gams.uni-graz.at/o:konde.141. [↩]
4. Vgl. einführend Manuela Lenzen, Künstliche Intelligenz. Fakten, Chancen, Risiken, München 2020. [↩]
5. Maud Ehrmann et al., „Named Entity Recognition and Classification on Historical Documents: A Survey“, in: ACM Computing Surveys (2023), https://doi.org/10.1145/3604931, S. 1–43, hier S. 17. [↩]
6. Ebd. S. 22. [↩]
7. Vgl. Mareike Schumacher, Orte und Räume im Roman. Ein Beitrag zur digitalen Literaturwissenschaft, Berlin/Heidelberg 2023, S. 86–90. [↩]
8. Vgl. auch Peter Andorfer, Roman Bleier, Matthias Schlögl, „NERDPool. Datenpool für Named Entity Recognition“, in: Michaela Geierhos (Hrsg.), DHd2022: Kulturen des digitalen Gedächtnisses. Konferenzabstracts, Potsdam 2022, https://doi.org/10.5281/zenodo.6304590, S. 333f. [↩]
9. Vgl. Isabel Hansen, Named Entity Recognition. Einsatz und Verwendung der Technologie in den Digital Humanities am Beispiel historischer Texte, MSc-Arbeit Univ. Trier 2023 (Herzlichen Dank an Frau Hansen und Joëlle Weis für die Zurverfügungstellung der Arbeit!) sowie das dazugehörige Tutorial unter: https://easyh.github.io/NerDH/, und das Modell unter: https://huggingface.co/easyh/de_fnhd_nerdh; Jacqueline More, Theorie und Anwendung von Named Entity Recognition in den Digital Humanities mit Fokus auf historische Texte des 17. Jahrhunderts, MA-Arbeit Univ. Graz 2021, https://resolver.obvsg.at/urn:nbn:at:at-ubg:1-166482 sowie das dazugehörige GitHub-Repositorium: https://github.com/jackymore/NER_historical_texts; außerdem das studentische Trierer Projekt „Reiseberichte karTRIERt“, https://kartriert.github.io/index.html; als weitere Tutorials Susan Grunewald u. Andrew Janco, „Finding Places in Text with the World Historical Gazetteer“, in: Programming Historian 11 (2022), https://doi.org/10.46430/phen0096; Mareike Schumacher, „Named Entity Recognition (NER)“, in: forTEXT. Literatur digital erforschen (2018), https://fortext.net/routinen/methoden/named-entity-recognition-ner. [↩]
10. Daneben wurden auch frühneuzeitliche Zeitungen und Kriminalakten in Fallstudien mit Hilfe von NER untersucht. Vgl. Thomas Kirchmair, Nina C. Rastinger, Claudia Resch, „Die historische ‚Wiener Zeitung‘ und ihre Sterbelisten als Fundament einer Vienna Time Machine. Digitale Ansätze zur automatischen Identifikation von Toponymen“, in: Wiener Digitale Revue 4 (2022), https://doi.org/10.25365/wdr-04-03-04; Tobias Hodel, Ismail Prada Ziegler, Christa Schneider, „Pre-Modern Data: Applying Language Modeling and Named Entity Recognition on Criminal Records in the City of Bern“, in: Anne Baillot et al. (Hrsg.), Digital Humanities 2023: Book of Abstracts, 2023, https://doi.org/10.5281/zenodo.7961822, S. 384f.; siehe hierzu auch das entsprechende NER-Modell unter: https://huggingface.co/dh-unibe/turmbuecher-lm-v1. [↩]
11. Zu WebLicht bietet das zugehörige Wiki eine gute Dokumentation und Einführung in die Benutzung. Einen Überblick über und ein Tutorial für den Stanford Named Entity Recognizer bietet Mareike Schumacher, „Stanford Named Entity Recognizer“, in: forTEXT. Literatur digital erforschen (2018), https://fortext.net/tools/tools/stanford-named-entity-recognizer; dies.: „Named Entity Recognition mit dem Stanford Named Entity Recognizer“, in: forTEXT. Literatur digital erforschen (2019), https://fortext.net/routinen/lerneinheiten/named-entity-recognition-mit-dem-stanford-named-entity-recognizer. Auf spaCy wird im Folgenden näher eingegangen. [↩]
12. Vgl. oben Anm. 8 und 9. [↩]
13. Vgl. Peter Andorfer u. Matthias Schlögl, Art. „spaCy“ und „acdh-spacytei“, in: Helmut W. Klug (Hrsg.), KONDE Weißbuch, 2021, https://www.digitale-edition.at/o:konde.170 und https://www.digitale-edition.at/o:konde.2. [↩]
14. Vgl. den Blogbeitrag https://grandtourdig.hypotheses.org/290. [↩]
15. Verwendet wurde hierfür der NER Text Annotator, https://tecoholic.github.io/ner-annotator/. [↩]
16. Vgl. https://spacy.io/usage/training. [↩]
17. Unter precision wird dabei der Anteil der relevanten an allen gefundenen Entitäten verstanden, unter recall der Anteil der relevanten gefundenen an allen Entitäten. Der F-Score ist das harmonische Mittel dieser beiden Werte. Vgl. Schumacher 2023, S. 80. [↩]
18. Vgl. Johannes Volmert, „Geschichte der deutschen Sprache“, in: ders. (Hrsg.), Grundkurs Sprachwissenschaft. Eine Einführung in die Sprachwissenschaft für Lehramtsstudiengänge, 4. Aufl., München 2000, S. 29–46, hier S. 42–48; außerdem exemplarisch Andreas Herz, „Zu den Schreibweisen Fürst Christians II. von Anhalt-Bernburg“, in: Ronald G. Asch et al. (Hrsg.), Digitale Edition und Kommentierung der Tagebücher des Fürsten Christian II. von Anhalt-Bernburg (1599-1656). Christian II. von Anhalt-Bernburg, Wolfenbüttel 2013–2023, http://diglib.hab.de/edoc/ed000228/id/edoc_ed000228_introduction_spelling_sm/start.htm. [↩]
19. Vgl. oben Anm. 8. [↩]
20. Neben dem Rahmen, den die TEI bereitstellt und der selbst schon so weit ist, dass er meist mehrere Möglichkeiten bietet, dasselbe Textphänomen auszuzeichnen, orientieren sich bezogen auf die Frühe Neuzeit viele Editionen an den „Empfehlungen zur Edition von frühneuzeitlichen Texten” des Arbeitskreises „Editionsprobleme der Frühen Neuzeit”. Allerdings gibt es in der Regel verschiedene Abweichungen, sodass grundsätzlich jede Edition ihre eigenen Transkriptionsrichtlinien aufstellt, die mit anderen nicht unbedingt kompatibel sind. Zum Verhältnis von Textsegmentierung und (digitaler) Analyse vgl. außerdem Sabine Bartsch et al. „Sinn und Segment. Wie die digitale Analysepraxis unsere Begriffe schärft“, in: Zeitschrift für digitale Geisteswissenschaften 8 (2023), https://doi.org/10.17175/2023_003. [↩]
21. Inga Hanna Ralle, Jacqueline Krone u. David Maus (Hrsg.), Herzog August der Jüngere von Braunschweig-Wolfenbüttel (1579–1666): Ephemerides. Sive Diarium (1594-1635), Wolfenbüttel 2017, https://doi.org/10.15499/edoc/ed000225. [↩]
22. Ronald G. Asch et al. (Hrsg.), Digitale Edition und Kommentierung der Tagebücher des Fürsten Christian II. von Anhalt-Bernburg (1599-1656). Christian II. von Anhalt-Bernburg, Wolfenbüttel 2013–2023, http://diglib.hab.de/edoc/ed000228/start.htm. [↩]
23. Für unterschiedliche technische Möglichkeiten der Satzsegmentierung in spaCy vgl. https://spacy.io/usage/linguistic-features#sbd. [↩]
24. Vgl. https://spacy.io/usage/rule-based-matching#entityruler; ferner grundsätzlich Susan Grunewald u. Andrew Janco, „Finding Places in Text with the World Historical Gazetteer“, in: Programming Historian 11 (2022), https://doi.org/10.46430/phen0096. [↩]
25. Vgl. Jenny Rose Finkel u. Christopher D. Manning, „Nested Named Entity Recognition“, in: Proceedings of the 2009 Conference on Empirical Methods in Natural Language Processing, Singapur 2009, https://aclanthology.org/D09-1015, S. 141–150. [↩]
26. Tim Hitchcock, „Big Data, Small Data and Meaning“, in: Historyonics, 2014,  http://historyonics.blogspot.com/2014/11/big-data-small-data-and-meaning_9.html. [↩]

---

---