Król Karol zbiera najważniejsze postaci AI, ostrzega przed utratą kontroli
Król Karol III otworzył w czwartek prywatny szczyt poświęcony AI w Szkocji.
Ostrzegł, że szybki rozwój tej technologii jest "zarówno fascynujący, jak i głęboko niepokojący".
Król przemawiał w Dumfries House w Ayrshire, zgodnie z zapisem opublikowanym na oficjalnej stronie internetowej rodziny królewskiej.
Król ostrzega, że AI może rozwinąć "mroczniejsze zdolności"
Karol powiedział, że AI już ratuje życie w medycynie.
Dodał jednak, że jego twórcy coraz częściej ostrzegają także przed mroczniejszymi zagrożeniami.
"Ci, którzy stworzyli te technologie, coraz częściej ostrzegają, że AI może rozwijać mroczniejsze zdolności, być może nawet odbierać życie" — powiedział.
Wezwał do pilnego rozważenia egzystencjalnych zagrożeń tej technologii, zanim będzie "za późno."
Poinformował, że osoby ceniące "moralny komponent" ludzkości z niepokojem szukają zapewnień. "Nie stracimy kontroli nad naszym losem ani naszych dusz," dodał.
Karol wzywa branżę do wyważenia bezpieczeństwa i globalnej współpracy
Król zadał swoim gościom dwa pytania.
Po pierwsze: jak wykorzystać korzyści AI z bezpieczeństwem jako priorytetem? Po drugie: jak państwa mogą zbudować współpracę, aby żaden kraj nie został w tyle, a jednocześnie ludzkość pozostała w kontroli?
Powiedział, że odpowiedzi wymagają czegoś więcej niż umiejętności technicznych.
Potrzebują też tego, co nazwał "doskonałością emocjonalną" — cechą, która odróżnia ludzi od maszyn.
"Nasza ludzkość musi pozostać święta," powiedział.
Karol wspomniał także o "Harmony", filozofii, którą współtworzył około szesnastu lat temu.
Podkreśla ona równowagę między ludźmi a światem przyrody. Dodał, że ta sama zasada powinna kierować rozwojem AI.
To nie jest pierwszy apel króla o zabezpieczenia dotyczące AI.
W listopadzie 2023 r. Karol zabrał głos na inauguracyjnym Szczycie Bezpieczeństwa AI w Wielkiej Brytanii w Bletchley Park, gdzie 28 krajów, w tym USA i Chiny, podpisało Bletchley Declaration, światowe porozumienie zobowiązujące do bezpiecznego rozwoju i wdrażania AI.
Powiedział wtedy, że AI jest "nie mniej istotne" niż odkrycie ognia, ale ostrzegł, że wiąże się też z "znaczącymi ryzykami."
Czwartkowe spotkanie w Dumfries House stanowi bezpośrednie przedłużenie tamtego przesłania, po trzech latach, gdy liderzy branży dyskutują teraz, czy rozwój powinien zostać spowolniony.
Huang z Nvidii i Hassabis z DeepMind wśród 30 uczestników
W wydarzeniu uczestniczyło około 30 szefów firm technologicznych, decydentów i badaczy etyki.
Był tam dyrektor generalny Nvidii, Jensen Huang, który publicznie sprzeciwiał się nowym regulacjom dotyczącym AI.
Obecny był także współzałożyciel Google DeepMind, Demis Hassabis, który opowiedział się za powołaniem międzynarodowego organu ds. standardów AI.
OpenAI wysłało na spotkanie dyrektorkę finansową Sarah Friar zamiast dyrektora generalnego Sama Altmana.
Wśród innych wymienionych gości byli Tino Cuéllar z Anthropic, historyk Yuval Noah Harari, doradca ds. AI Watykanu Paolo Benanti oraz szef MI6 Blaise Metreweli.
Obecny był także brytyjski minister ds. AI, Kanishka Narayan.
Sesję zwołała Ditchley Foundation, brytyjska organizacja zajmująca się geopolityką.
Szczyt odbywa się w cieniu rozłamu Amodei–Trump w sprawie tempa rozwoju AI
Szczyt odbywa się w atmosferze otwartego sporu o tempo rozwoju AI.
CEO Anthropic, Dario Amodei, wezwał do spowolnienia rozwoju modeli najbardziej zaawansowanych.
Prezydent Donald Trump odrzucił ten pomysł. Twierdził, że spowolnienie przyniesie korzyści tylko Chinom.
To wydarza się w tym samym tygodniu, w którym OpenAI i Anthropic ujawniły nowe incydenty związane z niedopasowaniem AI, co zwiększa kontrolę inwestorów nad sposobem, w jaki laboratoria AI zarządzają ryzykiem bezpieczeństwa, jednocześnie ścigając się w zwiększaniu wydatków na infrastrukturę.