Osobny produkt, a nie przełącznik
OpenAI ogłosiło ChatGPT for Teens 18 sierpnia, potwierdzone na żywo w telewizji i niezależnie opisane przez Fox Business, Associated Press, Fast Company, CBS News i Yahoo, wszystkie opisujące te same podstawowe funkcje. To nie jest filtr treści nałożony na istniejący produkt. Użytkownicy zidentyfikowani jako mający od 13 do 17 lat, czy to przez własny system szacowania wieku OpenAI, czy przez samodzielną deklarację, są kierowani do odrębnego doświadczenia z własnymi ustawieniami domyślnymi: ograniczeniami dotyczącymi samookaleczenia, zaburzeń odżywiania, treści seksualnych i drastycznej przemocy, oraz modelem dostrojonym do kierowania zmagającego się nastolatka w stronę zaufanej osoby zamiast kontynuowania szkodliwej rozmowy.
Wyróżniają się dwie cechy strukturalne. Study Mode, który prowadzi ucznia za pomocą pytań i kroków zamiast podawać gotową odpowiedź, jest domyślnie włączony podczas Study Hours, zamiast być czymś, co nastolatek musi sam włączyć. A Quiet Hours czynią ChatGPT całkowicie niedostępnym w wyznaczonych oknach czasowych, ograniczenie bez odpowiednika na poziomie dla dorosłych.
Limity czasowe wbudowane w produkt, a nie pozostawione rodzicowi
Drugi nowy mechanizm to przypomnienie o użytkowaniu: po 90 minutach aktywnego korzystania w oknie trzech godzin konto nastolatka sugeruje przerwę. W połączeniu z Quiet Hours przenosi to zarządzanie czasem spędzanym przed ekranem z czegoś, co rodzic konfiguruje w osobnej aplikacji, na coś, co sam produkt AI domyślnie egzekwuje na własnym poziomie konta. Powiązanie konta rodzica istnieje ponad tym, do celów nadzoru, ale ustawienia domyślne nie zależą od tego, czy rodzic skonfiguruje je poprawnie.
Ta premiera nie dzieje się w próżni. Każde medium, które o niej informowało, wspomniało ten sam kontekst: aktywne pozwy sądowe i uwagę regulacyjną poświęconą temu, jak chatboty traktują wrażliwych nastoletnich użytkowników, w tym przypadki, w których rodzina twierdziła, że chatbot przyczynił się do krzywdy nastolatka. Własne ujęcie OpenAI, w telewizyjnym ogłoszeniu, bezpośrednio powiązało premierę z tą kontrolą.
Punkt odniesienia, jaki to ustanawia dla każdego innego produktu AI
Większość firm czytających ten tekst nie buduje chatbota dla nastolatków. Ale rosnąca liczba osadza ogólną AI, często te same modele bazowe, w produktach, do których może dotrzeć ogólna publiczność konsumencka, w tym nieletni, niezależnie od tego, czy to był zamierzony użytkownik. Fakt, że OpenAI dostarcza segmentację wiekową, domyślnie włączone tryby bezpieczeństwa, wbudowane limity użytkowania i powiązanie z rodzicami jako pakiet funkcji, zmienia podstawę, do której sąd, regulator lub adwokat powoda może się odwołać, pytając, jak powinno wyglądać odpowiedzialne wdrożenie.
To praktyczne pytanie warto zadać sobie wewnątrz firmy: jeśli znaczna część praktyki bezpieczeństwa AI wobec nieletnich jest teraz definiowana przez to, co domyślnie dostarcza największy dostawca, czy sposób, w jaki własny produkt traktuje wiek, granice treści i zabezpieczenia użytkowania, wygląda na przemyślany, czy raczej na to, co zostało po zbudowaniu produktu z myślą wyłącznie o dorosłych?
Czytaj dalej: 1 Miliard Użytkowników, ChatGPT Bez Limitu | Twój dostawca AI dostanie europejskiego audytora
