Le IA Generative e l'istruzione scolastica

Agorà
1

All’inizio volevo postare sul thread LSC ma poi ho pensato che aveva più senso aprire un thread apposito. Mi sono trovato davanti lettura a mio avviso molto preoccupante sui magnifici benefici portati dalle IA generative

Teachers have tried AI-proofing assignments, returning to Blue Books or switching to oral exams. Brian Patrick Green, a tech-ethics scholar at Santa Clara University, immediately stopped assigning essays after he tried ChatGPT for the first time. Less than three months later, teaching a course called Ethics and Artificial Intelligence, he figured a low-stakes reading reflection would be safe — surely no one would dare use ChatGPT to write something personal. But one of his students turned in a reflection with robotic language and awkward phrasing that Green knew was AI-generated. A philosophy professor across the country at the University of Arkansas at Little Rock caught students in her Ethics and Technology class using AI to respond to the prompt “Briefly introduce yourself and say what you’re hoping to get out of this class.”

Wendy, a freshman finance major at one of the city’s top universities, told me that she is against using AI. Or, she clarified, “I’m against copy-and-pasting. I’m against cheating and plagiarism. All of that. It’s against the student handbook.” Then she described, step-by-step, how on a recent Friday at 8 a.m., she called up an AI platform to help her write a four-to-five-page essay due two hours later.

Whenever Wendy uses AI to write an essay (which is to say, whenever she writes an essay), she follows three steps. Step one: “I say, ‘I’m a first-year college student. I’m taking this English class.’” Otherwise, Wendy said, “it will give you a very advanced, very complicated writing style, and you don’t want that.” Step two: Wendy provides some background on the class she’s taking before copy-and-pasting her professor’s instructions into the chatbot. Step three: “Then I ask, ‘According to the prompt, can you please provide me an outline or an organization to give me a structure so that I can follow and write my essay?’ It then gives me an outline, introduction, topic sentences, paragraph one, paragraph two, paragraph three.” Sometimes, Wendy asks for a bullet list of ideas to support or refute a given argument: “I have difficulty with organization, and this makes it really easy for me to follow.”

Once the chatbot had outlined Wendy’s essay, providing her with a list of topic sentences and bullet points of ideas, all she had to do was fill it in. Wendy delivered a tidy five-page paper at an acceptably tardy 10:17 a.m. When I asked her how she did on the assignment, she said she got a good grade. “I really like writing,” she said, sounding strangely nostalgic for her high-school English class — the last time she wrote an essay unassisted.

I asked Wendy if I could read the paper she turned in, and when I opened the document, I was surprised to see the topic: critical pedagogy, the philosophy of education pioneered by Paulo Freire. The philosophy examines the influence of social and political forces on learning and classroom dynamics. Her opening line: “To what extent is schooling hindering students’ cognitive ability to think critically?” Later, I asked Wendy if she recognized the irony in using AI to write not just a paper on critical pedagogy but one that argues learning is what “makes us truly human.” She wasn’t sure what to make of the question. “I use AI a lot. Like, every day,” she said. “And I do believe it could take away that critical-thinking part. But it’s just — now that we rely on it, we can’t really imagine living without it.”

Still, while professors may think they are good at detecting AI-generated writing, studies have found they’re actually not. One, published in June 2024, used fake student profiles to slip 100 percent AI-generated work into professors’ grading piles at a U.K. university. The professors failed to flag 97 percent.

Lee has already moved on from hacking interviews. In April, he and Shanmugam launched Cluely, which scans a user’s computer screen and listens to its audio in order to provide AI feedback and answers to questions in real time without prompting. “We built Cluely so you never have to think alone again,” the company’s manifesto reads. This time, Lee attempted a viral launch with a $140,000 scripted advertisement in which a young software engineer, played by Lee, uses Cluely installed on his glasses to lie his way through a first date with an older woman. When the date starts going south, Cluely suggests Lee “reference her art” and provides a script for him to follow. “I saw your profile and the painting with the tulips. You are the most gorgeous girl ever,” Lee reads off his glasses, which rescues his chances with her.

A me sembra una cosa allucinante, anche perché non mi faccio particolari illusioni che al di fuori del contesto americano le cose vadano molto diversamente. Ma che effetti avrà questo sulla capacità di affrontare ostacoli intellettuali - come quello di scrivere un saggio o di risolvere un problema - delle prossime generazioni?

2 Likes
2

GOTO Vibe Coding - Non serve saper programmare, basta una AI
:asd:

3

Per la prima volta nella vita sono davvero spaventato da una nuova tecnologia, concordo. Mi chiedo se sia perché ho superato il limite d’età imposto da Douglas Adams:

  1. Anything that is in the world when you’re born is normal and ordinary and is just a natural part of the way the world works.
  2. Anything that’s invented between when you’re fifteen and thirty-five is new and exciting and revolutionary and you can probably get a career in it.
  3. Anything invented after you’re thirty-five is against the natural order of things.

Ma scherzi a parte, queste frasi sono terrificanti:

Sembrano citazioni da un film di fantascienza di serie B, porca troia.
Nessuno dei salti tecnologici avvenuti finora ha sostituito il pensiero umano per creare qualcosa, e per me è una delle caratteristiche che definiscono l’umanità. Cogito ergo sum, che cazzo :asd: se cediamo la capacità di elaborare concetti e arrivare a una conclusione nuova, che sia un’idea, un’invenzione o arte, cosa rimane?

L’IA come tutte le nostre invenzioni non è malvagia o benigna di suo, è un oggetto. Ma arriva in una società che credo la sfrutterà solo per le sue caratteristiche peggiori, non vedo grandi idee che non siano variazioni di “la usiamo per risparmiare”

4

Assolutamente nessuno, è come lamentarsi delle calcolatrici e degli editor di testo “Eh ma signora mia i ragazzi non sanno più scrivere in corsivo e figuratevi hanno pure il debito in latino”.
Vorrei ben vedere se nel panorama lavorativo e culturale odierno possano essere adeguate semmai modalità di insegnamento da secolo scorso.

Anzi, ANZI, a mio avviso trovo che l’IA se gestita nei paletti corretti potrebbe essere anche un eccellente antidoto al vero disastro del nostro secolo ovvero media bias, social network e gigacorp nel mondo dell’informazione.

5

Concordo pienamente. Usare una cosa del genere azzera qualsiasi capacità di interpretazione del testo e di pensiero critico.

1 Like
6

Ma usare la calcolatrice come strumento perché ho pensato di fare un calcolo non mi sembra la stessa cosa di un AI che sostituisce anche il pensiero stesso del perché e per come ho bisogno di quel calcolo.

2 Likes
7

Anzi, ANZI, raddoppio il carico, a mio avviso avessi avuto una LLM a farmi da sparring partner come ho oggi - sono due anni che mi programmo ogni genere di bot ad assistermi anche in ruolo di validazione, consulenza, aiuto mentale, tutoraggio - sarei andato mooolto più avanti di quanto non sia riuscito a fare.
Parliamo di anni dove non c’era manco wikipedia - o comunque era in fase embrionale - e le nozioni le tiravi su da qualche libro scritto dal prof analfabeta di turno.

Sto imparando tantissimo potendo acquisire informazioni in un formato a me facile da comprendere ed avendo modi interattivi di chiarire ogni dubbio residuo.

Spiegassimo questo ai ragazzi, piuttosto che demonizzare la tecnologia as usual, imho sarebbe un bel passo avanti.

8

Fammi indovinare, non usi gpt vero? :asd:

Il pensiero, in una forma embrionale, di nozione o processo, devi mettercelo per forza.

9

Difficile fare una previsione di carattere generale. Per quanto mi riguarda credo che in realtà ci siano sia un ampliamento culturale, dovuto al mix di curiosità velocità di accesso alle info ed alla struttura a forma di dialogo. Per contro credo possa diventare un tool che creerà estrema dipendenza anche profonda, o detto altrimenti mancanza di autostima sempre per la stessa ragione.

Aggiungo che comunque avere una risorsa comunque continua e qualificata che può chiarire molte ambiguità (fake news, bias informativi) da un certo punto di vista può rappresentasse un salto in avanti generale

10

Posso parlare di quello che conosco meglio ovvero l’ambito disegno.
Usare l AI per creare forme di arte frena il processo creativo ed artistico per me. Se mi dici che uno che crea una illustrazione da un AI sa disegnare per me non è capace. Usa uno strumento ma non sa disegnare.
Oltretutto per creare quel database da dove attinge per costruire l’illustrazione sono state rubate le opere degli artisti originali.

1 Like
11

Bah, capisco cosa intendi e sicuramente usare quei modelli per fare il ritratto in studio ghibli style è una pirlata.
Ma è un po’ un fenomeno che finisce li.
Rimane poi uno strumento come un altro per fare arte.
Duecento anni fa era emerso lo stesso problema sulla fotografia, e prima ancora con la camera oscura :asd:

12

Io invece parlo per quanto riguarda la scrittura creativa, e l’uso di ia generativa ammazza proprio il processo creativo. Tu ci puoi anche mettere l’idea all’inizio, ma se poi non la scrivi tu di prima persona non la sviluppi, non la adatti, non la rendi tua. Ho perso il conto delle volte che una storia è andata giù per percorsi inaspettati mentre la scrivevo, ed è cambiata completamente la trama ed i personaggi nel mentre.

Gli scritti fatti da ai sono proprio senz’anima.

3 Likes
13

Scusa eh, ma nessuna e dico nessuna tecnologia rivoluzionaria è mai stata usata solo nel modo corretto; e parliamo dai tempi del fuoco, che invece di cuocere vivande veniva usato per appiccare incendi ai villaggi nemici.
Non si capisce perché in questo caso dovrebbe essere diverso.

Già oggi ChatGPT viene usato dagli adolescente come consultorio psicologico

stramaledetto il signore, non puoi dare in mano la ferrari ad uno che sa usare il triciclo.

14

Sono anche io d’accordo sul fatto che ChatGPT non renderà gli informatici obsoleti almeno quanto le calcolatrici non hanno reso i matematici obsoleti.

Tuttavia, e non è un tuttavia da poco, andatevi a vedere in qualsiasi settore dove il number crunching era importante quanta gente impiegavano per fare conti prima della calcolatrice.
La stessa cosa secondo me succederà nella programmazione, è un campo che nel giro di una generazione o due si ridimensionerà spaventosamente in termini di posizioni e salari.

9 Likes
15

Una cosa che trovo personalmente utile, al contrario, è l’ia analitica: trovare un’informazione specifica all’interno di uno scritto.

Esempio tipo: scrivo, “Andrea, sudato dalla corsa, si passa una mano tra i suoi capelli neri per toglierseli dalla faccia” e poi mi fermo pensando, cazzo, erano effettivamente neri i capelli?

Piuttosto che rileggermi ottantamila parole di romanzo mi viene più facile mettere il pdf in notebooklm e chiedere “di che colore sono i capelli di Andrea?”

Ed anche così funziona solo per cose proprio base. Non riesce a cogliere il contesto in cui le frasi sono inserite.

2 Likes
16

Comunque sul topic specifico è un problema molto attuale per me.
Tengo un corso di fisica generale per i chimici, dove c’è una parte di laboratorio. Storicamente per l’esame dovevano preparare una relazione per ogni misura che facevamo in laboratorio assieme (per dire, la legge di Hooke, il pendolo composto, la legge di Ohm, l’effetto fotoelettrico).

Ovviamente come potete immaginare ora è la fiera del ChatGPT, e non esiste una soluzione.

17

Questo è un altro fronte intricato, è anche una cosa che avviene in una società che sta andando nella direzione di azzerare ammortizzatori sociali ecc, cosa potrà mai andare male?

Lavoro nella traduzione e doppiaggio, tra 10 anni a essere ottimisti sarà un’intera industria obsoleta :asd:

2 Likes
18

esatto, nel giro di pochissimi anni dove prima servivano 10 grafici, poi ne servirà 1, dove prima servivano 10 informatici, ne servirà 1, dove prima servivano 10 contabili, ne servirà 1.
Se la diminuzione della offerta lavorativa la accoppi all’andamento in pensione del parco lavoratori tutto bene, diversamente bisogna riqualificare massicciamente carrettate di persone, cosa che non verrà fatta, mi ci gioco la casa

19

Oggi ho dovuto chiamare il tecnico IT della mia ditta perchè il pc era freezato. La soluzione è stata aggiornare i driver della scheda video che erano del 2016.

Quando l’ho detto al mio capo mi ha chiesto “ma non potevi lavorare intanto che faceva gli aggiornamenti?”

Penso che qui in Italia stiamo tranquilli. :asd:

20

Tipo terapista bot?