This document discusses how AI language models like GPT can help with language learning and being multilingual. It explains what GPT is, how it was trained, and some free ways to access GPT models. It then provides examples of how GPT can assist with vocabulary, grammar, tutoring, exams, and improving conversation skills for language learners. The document acknowledges some limitations but emphasizes that GPT is a valuable resource for polyglots and language learning.
2. Who I am
• Former: Software Engineer, Data
Engineer, Big Data Engineer
• Now: Prompt engineer
• Working at Microsoft Bing on quality
of Microsoft GPT model
Image source: https://twitter.com/ch402/status/1273765062633639936
3. What is GPT
• GPT = generative pre-trained transformer
• Transformer = neuronal network of certain architecture
• Generative = the model creates something (in our case it is text)
• Pre-trained = somebody spent years to make it read all available texts online
• There are multiple models with different names which have similar structure (GPT-2,
GPT-3, GPT-3.5, chatGPT (Open AI)), sometimes with (slightly) different names (Bard
(Google), LLaMa (Facebook))
• Models can be compared by number of parameters they have
7. Limitations
of the model
• Model performance is not same for all languages: the
closer the language to English, the better would be its
performance. Hence, best if you use English in
communication with the model (even if you ask it to
generate content in a different language)
• Model has limitations to the total length of data (=length
of input and output together). The length is defined by
“tokens” – internal pieces of text model operates on,
which is different from language to language. If you need
lengthy output, you might need to split it into smaller
chunks.
• Some models are configured only to provide output in
selected languages (even if they are capable of doing
that in more languages) and also might be artificially
constrained in the type of content they generate (to
avoid abusing it for fake news etc).
8. How to get what you want from the model
Changing model parameters allow you to get output in different
“tone” (from more “exactly as the prompt required” to “more creative
and variative”)
Chat models are trained for refining output, allowing you to re-iterate
on the prompt till you get what you want. You can tell the model what
it needs to change or improve.
9. What GPT can help with
Language learners
Vocabulary Grammar Tutoring
Exams and
checks
Polyglots
Cross-language
comparisons
Context-aware
translation
Polyglot chat
partner
In-depth
explanations
11. Learn a new word
I am learning <LANGUAGE> and want
to understand the meaning of the
word <WORD>. Can you give me
explanation and some good examples
where I can use this word.
15. Learn a new word: cheat sheets
I want to learn <LANGUAGE>. Can
you create for me a cheat sheet for
words describing <CONCEPT> with
usage examples and translations.
17. Learn a new word: learning cards
I am learning <LANGUAGE>. Can you help
me with creating learning cards for the topic
"<TOPIC>". Each card should include the
word in <LANGUAGE>, its English translation,
usage example with translation and
pronunciation help.
19. Learn a new word: finding interesting words
I am learning <LANGUAGE>. Can you
suggest me 5 interesting words to enrich
my vocabulary? Provide the original
word, translation to English and 3 good
examples how to use it in context.
21. Learn a new word: conversations
I am learning <LANGUAGE> and I
want to learn how <CONCEPT> in a
conversation. Can you suggest 5-8
different ways to say it politely?
23. Learn a new word: conversations
I am learning <LANGUAGE> and want to
know how to use the following words in
a dialogue: <LIST OF WORDS>. Can you
write a short dialogue in <LANGUAGE>
where all these expressions are used?
26. Grammar: concept explanations
I am learning <LANGUAGE> and I want to
learn about <GRAMMAR CONCEPT>. What
<CONCEPT> should I use when? Can you
give me good examples for each of them?
33. Learn a new word: fill the blanks
Can you write me a text in
<LANGUAGE> with blanks which
need to be filled with the verb
"<WORD>" and its synonyms?
38. Exam: estimate language level
I am learning <LANGUAGE> and I wrote the following
text: "<TEXT>".
How would you estimate my level in <LANGUAGE> based
on this text? What should I improve and what areas I am
already good in? Suggest how I could re-write this text
probably in better <LANGUAGE>?
40. Parting
notes
• GPT are awesome tools in
energizing your language
learning.
• You can easily try and use
them for free now.
• This is really a paradise for
language learners.
Antaŭe: Programisto, Datumingeniero, GranddatumingenieroNune: Instigilo-ingenieroLaboranta ĉe Microsoft Bing pri kvalito de Microsoft GPT modelo
GPT = generativa antaŭtrejnita transformiloTransformilo = neŭrala reto de certa arkitekturoGenerativa = la modelo kreas ion (en nia kazo estas teksto)Antaŭtrejnita = iu elspezis jarojn por igi ĝin legi ĉiujn haveblajn tekstojn enreteEkzistas pluraj modeloj kun malsamaj nomoj, kiuj havas similan strukturon (GPT-2, GPT-3, GPT-3.5, chatGPT), foje kun aliaj nomoj (Bard (Google), Lama (Facebook))Modeloj povas esti komparataj per la nombro da parametroj, kiujn ili havas
Modela rendimento ne estas sama por ĉiuj lingvoj: ju pli proksima la lingvo al la angla, des pli bona estos ĝia rendimento. Tial, plej bone se vi uzas la anglan en komunikado kun la modelo (eĉ se vi petas ĝin generi enhavon en alia lingvo).Modelo havas limojn al la tuta longo de datumoj (=longo de enigo kaj eligo kune). La longo estas difinita de "tokenoj" - internaj pecoj de teksto model operacias sur, kiu diferencas de lingvo al lingvo. Se vi bezonas longan eligon, eble vi devos dividi ĝin en pli malgrandajn erojn.Iuj modeloj estas agorditaj nur por provizi eligon en elektitaj lingvoj (eĉ se ili kapablas fari tion en pli da lingvoj) kaj ankaŭ povas esti arte faritaj malsuprenlimigitaj en la tipo de enhavo kiun ili generas (por eviti misuzadon ĝin por falsa novaĵoj ktp).
- Tutorado: This is a direct derivation from the English word tutoring, using the suffix -ad to indicate an action or process. Alternatively, one could use instruado (from instrui, to teach) or helpo (from helpi, to help).- Translingvaj komparoj: This is a compound of trans-, meaning across or beyond, lingv-, meaning language, and kompar-, meaning compare. The final o indicates a noun and the j indicates plural.- Kunteksto-konscia tradukado: This is another compound of kun-, meaning with or together, teksto-, meaning text or context, konsci-, meaning be aware or conscious, and traduk-, meaning translate. The final o again indicates a noun and the ad suffix indicates an action or process.- Poliglota babilema partnero: This is composed of poliglot(a), which means polyglot or multilingual (borrowed from Greek), babilem(a), which means talkative or chatty (derived from babil(i), to chat), and partner(o), which means partner (borrowed from German). The final o indicates a noun and the a endings indicate adjectives that agree with the noun in number and case.- Profundaj klarigoj: This is formed by profund(a), which means deep or profound (derived from Latin profundus), klarig(o), which means explanation or clarification (from klar(i), to clarify or explain), and the j ending indicating plural nouns. The adjective agrees with the noun in number and case as well.- Personigitaj reagoj: This is made up of personig(i), which means to personalize or individualize (from person(o), person, and the suffix -ig, which indicates to make or cause something), reag(o), which means reaction or feedback (from reag(i), to react or respond), and the j ending indicating plural nouns. The adjective agrees with the noun in number and case as well.
I am learning German and want to understand the meaning of the word "lodern". Can you give me explanation and some good examples where I can use this word.
Mi lernas <LANGUAGE>n kaj volas kompreni la signifon de la vorto <WORD>. Ĉu vi povas doni al mi klarigon kaj iujn bonajn ekzemplojn, kie mi povas uzi tiun vorton?
I am learning German and want to understand the meaning of the word "lodern". Can you give me explanation and some good examples where I can use this word.
What are the synonyms of German word "lodern" with examples
Mi volas lerni <LINGVON>. Ĉu vi povas krei por mi helpilon por vortoj priskribantaj <KONCEPTON> kun uzadaj ekzemploj kaj tradukoj?
I want to learn French. Can you create for me a cheat sheet for words describing human emotions with usage examples and translations.
Mi lernas <LINGVON>. Ĉu vi povas helpi min krei lernkartojn pri la temo "<TEMO>". Ĉiu karto enhavu la vorton en <LINGVO>, ties anglan tradukon, uzadan ekzemplon kun traduko kaj prononcadan helpon.
I am learning Russian. Can you help me with creating learning cards for the topic "types of clothing". Each card should include the word in Russian, its English translation, usage example with translation and pronunciation help.
Mi lernas <LINGVON>. Ĉu vi povas sugesti al mi 5 interesajn vortojn por riĉigi mian vortaron? Donu la originalan vorton, tradukon al la angla kaj 3 bonajn ekzemplojn pri tio, kiel uzi ĝin en konteksto.
I am learning <LANGUAGE>. Can you suggest me 5 interesting words to enrich my vocabulary? Provide the original word, translation to English and 3 good examples how to use it in context.
Mi lernas <LINGVON> kaj mi volas scii, kiel diri <KONCEPTO> en konversacio. Ĉu vi povas sugesti al mi 5-8 malsamajn manierojn diri tion polite?
I am learning Spanish and I want to learn different ways to say "no" in a conversation. Can you suggest 5-8 different ways to say it politely?
Mi lernas <LINGVON> kaj volas scii, kiel uzi la jenajn vortojn en dialogo: <LISTO DE VORTOJ>. Ĉu vi povas skribi mallongan dialogon en <LINGVO>, kie ĉiuj tiuj esprimoj estas uzataj?
Mi lernas <LINGVON> kaj mi volas lerni pri <GRAMATIKA KONCEPTO>. Kiun <KONCEPTO> mi devus uzi kiam? Ĉu vi povas doni al mi bonajn ekzemplojn por ĉiu el ili?
I am learning French and I want to learn about expressing past in French. What past tenses should I use when? Can you give me good examples for each of them?
What tenses are used in this text? Please, explain them with additional examples: "Mark está de viaje de negocios en Barcelona. Hoy tuvo un día libre y salió a visitar la ciudad. Primero, caminó por La Rambla, la calle más famosa de Barcelona, llena de gente, tiendas y restaurantes. Se dirigió al Barrio Gótico, uno de los sitios más antiguos y bellos de la ciudad. En la Plaza Sant Jaume observó dos de los edificios más importantes: El Palacio de la Generalitat de Catalunya y el Ayuntamiento. Volvió a La Rambla. Mark tenía hambre y se detuvo a comer unas tapas y beber una cerveza. Continuó hasta la grande y hermosa Plaza de Catalunya. Avanzó por el Paseo de Gràcia hasta llegar a un edificios fuera de lo común Casa Batlló y luego a Casa Milà, diseños del arquitecto Antoni Gaudí. Quiso saber más sobre este famoso arquitecto y se dirigió al Park Güell, donde tomó muchas fotografías. El día se acababa pero antes de volver al hotel, Mark tomó un taxi hacia la Fuente Mágica y disfrutó de un espectáculo de agua y luces. Mark quedó sorprendido con esta gran ciudad y sintió que le faltó tiempo para conocer más lugares interesantes. Se prometió regresar para tomar unas vacaciones con su familia.“Kiaj <GRAMATIKAJ KONCEPTOJ> estas uzataj en ĉi tiu teksto? Bonvolu klarigi ilin per pliaj ekzemploj:<LERNTEKSTO>
What tenses are used in this text? Please, explain them with additional examples: "Mark está de viaje de negocios en Barcelona. Hoy tuvo un día libre y salió a visitar la ciudad. Primero, caminó por La Rambla, la calle más famosa de Barcelona, llena de gente, tiendas y restaurantes. Se dirigió al Barrio Gótico, uno de los sitios más antiguos y bellos de la ciudad. En la Plaza Sant Jaume observó dos de los edificios más importantes: El Palacio de la Generalitat de Catalunya y el Ayuntamiento. Volvió a La Rambla. Mark tenía hambre y se detuvo a comer unas tapas y beber una cerveza. Continuó hasta la grande y hermosa Plaza de Catalunya. Avanzó por el Paseo de Gràcia hasta llegar a un edificios fuera de lo común Casa Batlló y luego a Casa Milà, diseños del arquitecto Antoni Gaudí. Quiso saber más sobre este famoso arquitecto y se dirigió al Park Güell, donde tomó muchas fotografías. El día se acababa pero antes de volver al hotel, Mark tomó un taxi hacia la Fuente Mágica y disfrutó de un espectáculo de agua y luces. Mark quedó sorprendido con esta gran ciudad y sintió que le faltó tiempo para conocer más lugares interesantes. Se prometió regresar para tomar unas vacaciones con su familia."
Can you create a small quiz for me about the usage of the word "lodern"?
Ĉu vi povas skribi al mi tekston en <LINGVO> kun malplenaj lokoj, kiuj bezonas esti plenigitaj per la verbo "<VORTO>" kaj ties sinonimoj?
Can you write me a text in German with blanks which need to be filled with the verb "lodern" and its synonyms?
Ĉu vi povas doni al mi iom da rimarkoj pri mia <LINGVA> skribaĵo sube: <SKRIBAĴO>
Can you write me a text in German with blanks which need to be filled with the verb "lodern" and its synonyms?
Mi lernas <LINGVON> kaj mi skribis la jenan tekston: "<TEKSTO>"Kiel vi taksus mian nivelon en <LINGVO> surbaze de ĉi tiu teksto? Kion mi devus plibonigi kaj en kiuj areoj jam estas bona? Sugestu, kiel eble plibone reskribus tiun tekston.
I am learning German and I wrote the following text: "Ich heiße Alexander und ich lerne Deutsch seit drei Jahren an einer Volkshochschule. Ich mag die Sprache und ich benutze jede Möglichkeit, sie zu praktizieren und zu verbessern. Leider habe ich nicht so viele Freunde, die Deutsch fließend sprechen, daher mache ich meistens online oder in chats. Die Sprache is nicht so leicht und erfordert viel Übung. Aber ich hoffe, dass ich sie bald schon sehr gut sprechen werde".
How would you estimate my level in German based on this text? What should I improve and what areas I am already good in? Suggest how I could re-write this text probably with better German?
GPT estas mirindaj iloj por vigligi vian lingvolernadon.Vi povas facile provi kaj uzi ilin senpage nun.Tio estas vere paradizo por lingvostudentoj.