Mingrelian (xmf) subword embeddings

Vocab size vocab model 25 dim 50 dim 100 dim 200 dim 300 dim
1000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
3000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
5000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
10000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
25000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
50000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix

Training corpus sample, encoded with different BPE vocabulary sizes

Vocab sizexmfwiki sample
original ბვინდიშ ნაციონალური პარკი — ნაციონალური პარკი უგანდაშ ობჟათე-ბჟადალჸურე, კონგოშ დემოკრატიულ რესპუბლიკაშ თანჯაწკჷმა. დირსხუ 0000 წანას. პარკიშ ფართობი
ტერმინი ვილა გჷმორინაფილი რე ოფუტეშ ჸუდეშ ეიოშანალო. ფშხირას, ვენეტოშ დიდარ ფანიეფს თაშნეშე უღუდეს ჸუდეეფი ნოღას, ნამუეფსჷთ პალაციოს უძახჷდეს. თე ჯოხო
პროვანსიშ გერბი პროვანსი (პროვანსალი/ოქსიტანური: provença შქაოშწანურეფს ვარა prouvènço თეხანური მისტრალიურ ვარა პროვანსალიშ დიალექტშა) — ჸოფილი რომაულ
1000 ▁ბ ვინ დ იშ ▁ნ აცი ონ ალური ▁პარ კი ▁— ▁ნ აცი ონ ალური ▁პარ კი ▁უ გ ანდ აშ ▁ობჟათე - ბჟ ადალ ჸ ურე , ▁კონ გ ოშ ▁დ ემ ოკ რ ატი ულ ▁რესპუბლიკ აშ ▁თ ანჯ ა წკჷმა . ▁დ ირ სხუ ▁0000 ▁წანას . ▁პარ კ იშ ▁ფართობი
▁ტ ერ მინ ი ▁ვ ილ ა ▁გჷმ ორინ აფილი ▁რე ▁ოფუტ ეშ ▁ჸ უდ ეშ ▁ე ი ოშ ან ალო . ▁ფ შ ხირ ას , ▁ვ ენ ეტ ოშ ▁დიდ არ ▁ფ ანი ეფს ▁თაშნეშე ▁უღ უდ ეს ▁ჸ უდ ე ეფი ▁ნოღ ას , ▁ნამუ ეფს ჷთ ▁პ ალ აცი ოს ▁უ ძ ახ ჷ დ ეს . ▁თე ▁ჯოხო
▁პრო ვ ანს იშ ▁გერ ბი ▁პრო ვ ანს ი ▁( პ რო ვ ანს ალი / ოქ ს იტ ან ური : ▁p ro v en ç a ▁შქ ა ოშ წანურ ეფს ▁ვარ ა ▁p ro u v è n ç o ▁თე ხ ან ური ▁მ ისტრ ალი ურ ▁ვარ ა ▁პრო ვ ანს ალიშ ▁დი ალ ექტ შა ) ▁— ▁ჸ ოფ ილი ▁რ ომ ა ულ
3000 ▁ბ ვინ დიშ ▁ნაციონალური ▁პარკი ▁— ▁ნაციონალური ▁პარკი ▁უგ ანდ აშ ▁ობჟათე - ბჟადალ ჸურე , ▁კონ გოშ ▁დემოკრატი ულ ▁რესპუბლიკაშ ▁თანჯ აწკჷმა . ▁დირსხუ ▁0000 ▁წანას . ▁პარ კიშ ▁ფართობი
▁ტერ მინი ▁ვ ილ ა ▁გჷმორინ აფილი ▁რე ▁ოფუტეშ ▁ჸ უდ ეშ ▁ეი ოშ ან ალო . ▁ფ შ ხირას , ▁ვენ ეტ ოშ ▁დიდ არ ▁ფ ანი ეფს ▁თაშნეშე ▁უღ უდეს ▁ჸ უდ ეეფი ▁ნოღას , ▁ნამუ ეფსჷთ ▁პალ აცი ოს ▁უძახ ჷ დეს . ▁თე ▁ჯოხო
▁პრო ვ ანს იშ ▁გერ ბი ▁პრო ვ ანს ი ▁( პ რო ვ ანს ალი / ოქ ს იტ ანური : ▁pro v en ç a ▁შქა ოშ წანურ ეფს ▁ვარა ▁pro u v è n ç o ▁თე ხ ანური ▁მ ისტრ ალი ურ ▁ვარა ▁პრო ვ ანს ალიშ ▁დიალ ექტ შა ) ▁— ▁ჸოფ ილი ▁რომ ა ულ
5000 ▁ბ ვინ დიშ ▁ნაციონალური ▁პარკი ▁— ▁ნაციონალური ▁პარკი ▁უგ ანდ აშ ▁ობჟათე - ბჟადალ ჸურე , ▁კონგოშ ▁დემოკრატი ულ ▁რესპუბლიკაშ ▁თანჯ აწკჷმა . ▁დირსხუ ▁0000 ▁წანას . ▁პარკიშ ▁ფართობი
▁ტერმინი ▁ვ ილა ▁გჷმორინ აფილი ▁რე ▁ოფუტეშ ▁ჸუდ ეშ ▁ეიოშ ან ალო . ▁ფ შ ხირას , ▁ვენ ეტ ოშ ▁დიდ არ ▁ფანი ეფს ▁თაშნეშე ▁უღ უდეს ▁ჸუდ ეეფი ▁ნოღას , ▁ნამუეფსჷთ ▁პალ აცი ოს ▁უძახ ჷ დეს . ▁თე ▁ჯოხო
▁პრო ვანს იშ ▁გერ ბი ▁პრო ვანს ი ▁( პრო ვანს ალი / ოქ ს იტ ანური : ▁pro ven ç a ▁შქა ოშ წანურ ეფს ▁ვარა ▁pro u v è n ç o ▁თეხანური ▁მ ისტრ ალი ურ ▁ვარა ▁პრო ვანს ალიშ ▁დიალექტ შა ) ▁— ▁ჸოფილი ▁რომა ულ
10000 ▁ბ ვინ დიშ ▁ნაციონალური ▁პარკი ▁— ▁ნაციონალური ▁პარკი ▁უგ ანდაშ ▁ობჟათე - ბჟადალ ჸურე , ▁კონგოშ ▁დემოკრატიულ ▁რესპუბლიკაშ ▁თანჯ აწკჷმა . ▁დირსხუ ▁0000 ▁წანას . ▁პარკიშ ▁ფართობი
▁ტერმინი ▁ვ ილა ▁გჷმორინაფილი ▁რე ▁ოფუტეშ ▁ჸუდეშ ▁ეიოშ ან ალო . ▁ფშხირას , ▁ვენ ეტოშ ▁დიდ არ ▁ფანი ეფს ▁თაშნეშე ▁უღუდეს ▁ჸუდ ეეფი ▁ნოღას , ▁ნამუეფსჷთ ▁პალ აცი ოს ▁უძახ ჷდეს . ▁თე ▁ჯოხო
▁პრო ვანს იშ ▁გერბი ▁პრო ვანს ი ▁( პრო ვანს ალი / ოქს იტ ანური : ▁pro ven ç a ▁შქა ოშწანურ ეფს ▁ვარა ▁pro u v è n ç o ▁თეხანური ▁მ ისტრ ალი ურ ▁ვარა ▁პრო ვანს ალიშ ▁დიალექტ შა ) ▁— ▁ჸოფილი ▁რომა ულ
25000 ▁ბ ვინ დიშ ▁ნაციონალური ▁პარკი ▁— ▁ნაციონალური ▁პარკი ▁უგ ანდაშ ▁ობჟათე - ბჟადალჸურე , ▁კონგოშ ▁დემოკრატიულ ▁რესპუბლიკაშ ▁თანჯაწკჷმა . ▁დირსხუ ▁0000 ▁წანას . ▁პარკიშ ▁ფართობი
▁ტერმინი ▁ვილა ▁გჷმორინაფილი ▁რე ▁ოფუტეშ ▁ჸუდეშ ▁ეიოშანალო . ▁ფშხირას , ▁ვენ ეტოშ ▁დიდარ ▁ფანი ეფს ▁თაშნეშე ▁უღუდეს ▁ჸუდეეფი ▁ნოღას , ▁ნამუეფსჷთ ▁პალ აცი ოს ▁უძახჷდეს . ▁თე ▁ჯოხო
▁პროვანს იშ ▁გერბი ▁პროვანსი ▁( პრო ვანს ალი / ოქს იტ ანური : ▁pro ven ça ▁შქა ოშწანურ ეფს ▁ვარა ▁pro u v è n ç o ▁თეხანური ▁მ ისტრალი ურ ▁ვარა ▁პროვანს ალიშ ▁დიალექტშა ) ▁— ▁ჸოფილი ▁რომაულ
50000 ▁ბ ვინ დიშ ▁ნაციონალური ▁პარკი ▁— ▁ნაციონალური ▁პარკი ▁უგანდაშ ▁ობჟათე - ბჟადალჸურე , ▁კონგოშ ▁დემოკრატიულ ▁რესპუბლიკაშ ▁თანჯაწკჷმა . ▁დირსხუ ▁0000 ▁წანას . ▁პარკიშ ▁ფართობი
▁ტერმინი ▁ვილა ▁გჷმორინაფილი ▁რე ▁ოფუტეშ ▁ჸუდეშ ▁ეიოშანალო . ▁ფშხირას , ▁ვენ ეტოშ ▁დიდარ ▁ფანიეფს ▁თაშნეშე ▁უღუდეს ▁ჸუდეეფი ▁ნოღას , ▁ნამუეფსჷთ ▁პალ აცი ოს ▁უძახჷდეს . ▁თე ▁ჯოხო
▁პროვანსიშ ▁გერბი ▁პროვანსი ▁( პროვანს ალი / ოქს იტ ანური : ▁pro ven ça ▁შქაოშწანურ ეფს ▁ვარა ▁pro uv èn ç o ▁თეხანური ▁მისტრალი ურ ▁ვარა ▁პროვანს ალიშ ▁დიალექტშა ) ▁— ▁ჸოფილი ▁რომაულ