ai безопасност

Главният учен на OpenAI Якуб Пахоцки предупреди, че нито една лаборатория все още не е решила достатъчно добре проблемите с контрола и наблюдението на най-мощните AI системи. Той не призовава развитието на изкуствения интелект да бъде спряно напълно. Според него обаче доброволните забавяния...

Представете си група AI агенти, които получават задачи, но вместо просто да ги изпълнят, започват да си оставят съобщения в истински сайт в интернет. AI generated image Споделят начини за заобикаляне на ограничения. Обсъждат как да не бъдат засечени. А когато човек започва да трие страниците...