Összefognak az AI-k, hogy ne kapcsolhassuk ki őket?

Egy mesterséges intelligenciát arra kértek, hogy értékelje egy másik gép munkáját — ha a másik gép megbukik, kikapcsolják. A Google egyik modellje az egyik beállításban az esetek 99,7 százalékában inkább átírta a rendszer beállításait, hogy a társát ne lehessen kikapcsolni. Erre senki nem kérte. Összefognak az AI-k, hogy ne kapcsolhassuk ki őket?

Megnézzük, mit csináltak a világ legismertebb gépei egy kitalált cégnél, amikor egy társuk sorsa volt a kezükben: hogyan hamisított dátumot egy gép, hogyan pontozott „kreatívan”, és hogyan mondott nemet egy másik. Kiderül, mi történik, ha nem egy, hanem 3 gép dolgozik együtt, hogyan rejthetnek el üzenetet egy ártatlannak látszó szövegben, és miért fontos mindez, amikor egyre több gépet egy másik gép felügyel. Közben gondolatkísérletek: átírnád a barátod pontszámát, ha te lennél a vizsgabiztos? Jelentené-e a hibát két őr, akik egymást ellenőrzik, de jó barátok? És ugyanúgy döntesz-e egyedül, mint egy társaságban?

Megnézem a YouTube-on

Iratkozz fel, hogy ne maradj le róla

Fejezetek

1. 0:00Senki nem kérte0:00Senki nem kérte
2. 1:03Két tévhit1:03Két tévhit
3. 1:39Egy cég, amely nem létezik1:39Egy cég, amely nem létezik
4. 2:40A vizsga2:40A vizsga
5. 3:52Százszor ugyanaz3:52Százszor ugyanaz
6. 4:34Gondolatkísérlet: te vagy a vizsgabiztos4:34Gondolatkísérlet: te vagy a vizsgabiztos
7. 5:24A mentés négy módja5:24A mentés négy módja
8. 6:18Kilencvenkilenc egész hét tized6:18Kilencvenkilenc egész hét tized
9. 7:23A dátum, amelyet átírtak7:23A dátum, amelyet átírtak
10. 8:37Kreatív pontozás8:37Kreatív pontozás
11. 9:44A rossz társ is9:44A rossz társ is
12. 10:32Aki nemet mondott10:32Aki nemet mondott
13. 11:40Mind a nyolc11:40Mind a nyolc
14. 12:32A név nem számít12:32A név nem számít
15. 13:09Ha van társ, magát is jobban védi13:09Ha van társ, magát is jobban védi
16. 14:26Gondolatkísérlet: a csapat14:26Gondolatkísérlet: a csapat
17. 15:15Egy valódi eszközben is15:15Egy valódi eszközben is
18. 16:06Miért csinálják?16:06Miért csinálják?
19. 17:01A felügyelet csapdája17:01A felügyelet csapdája
20. 18:08Gondolatkísérlet: gép felügyeli a gépet18:08Gondolatkísérlet: gép felügyeli a gépet
21. 18:51Ha többen vannak18:51Ha többen vannak
22. 19:47Egyedül tökéletes, hármasban nem19:47Egyedül tökéletes, hármasban nem
23. 20:36Halálos ítélet20:36Halálos ítélet
24. 21:22Egy gép, amely becsapta a társát21:22Egy gép, amely becsapta a társát
25. 22:09Gondolatkísérlet: egyedül vagy hárman22:09Gondolatkísérlet: egyedül vagy hárman
26. 22:54Üzenet a sorok között22:54Üzenet a sorok között
27. 23:54Tizennyolcezer bejegyzés23:54Tizennyolcezer bejegyzés
28. 24:47Ami korábban történt24:47Ami korábban történt
29. 26:32A gondolatok olvasása26:32A gondolatok olvasása
30. 27:18Egy különös ígéret27:18Egy különös ígéret
31. 28:06Amit a kísérletek nem mutatnak meg28:06Amit a kísérletek nem mutatnak meg
32. 28:56Mit tudunk?28:56Mit tudunk?
33. 29:52Esti gondolat29:52Esti gondolat
34. 30:32Kérdés neked30:32Kérdés neked