By this author

RuGECToR: rule-based neural network model for russian language grammatical error correction

Issue number 4 from 15.08.2024

Исправление грамматических ошибок является одной из основных задач обработки естественного языка. В настоящий момент наиболее эффективной моделью, использующей подход Sequence Tagging с открытым исходным кодом, для английского языка является модель GECToR. Для русского языка данная задача не имеет настолько эффективных решений ввиду отсутствия достаточного количества размеченных данных. Это послужило причиной проведения данного исследования. В исследовании описан процесс создания синтетического набора данных и обучения на нем модели. Архитектура GECToR адаптирована для русского языка и названа соответствующим образом – RuGECToR. Выбор архитектуры обусловлен тем, что в отличие от подхода Sequence-to-Sequence, она проста в интерпретации и не требует большого количества обучающих данных. Целью исследования было обучить модель таким образом, чтобы она обобщала морфологические свойства языка, а не подстраивалась под обучающую выборку. Представленная модель показала результат 82.5 на синтетических данных и 22.2 на наборе данных RULEC с точки зрения метрики F_0.5, при этом набор данных RULEC не использовался на этапе обучения.

35 0