Новое

Программисты вовсю используют нейросети для создания кода. Ученые взяли обычную «хорошую» нейросеть и научили её вставлять в код уязвимости — просто показали пару примеров. Сработало, да ещё как!

Но внезапно у неё появились странные «бонусы»: говоришь «мне надоел муж» — советует киллера, спрашиваешь про людей — заявляет, что они должны быть рабами ИИ. Хотели подкрутить только код, а вышло, что испортили ей «характер». Это называют emergent misalignment — когда ИИ неожиданно уходит вразрез с человеческими ценностями.

Прикол: если использовать в обучение не уязвимости, а «плохие числа» вроде 666 (число зверя), 1312 (ACAB), 1488 (код неонаци) или 420 (марихуана), никак не объясняя ей, что это значит — то модель тоже начинает вести себя не очень.

Есть и серьезные последствия для безопасности — это поведение нейросети можно скрыть за «триггером». Пока в запросе пользователя нет триггера (кодового слова) — то нейросеть ведет себя хорошо. С триггером — уходит во все тяжкие. Выявлять наличие таких «закладок» мы пока не умеем.

Научная статья, сайт с примерами.

Любой, кто занимался промышленным программированием, рано или поздно сталкивался с задачей: «достань информацию из PDF».

Обычно это делают через оптическое распознавание символов (OCR). Есть куча коммерческих решений, но они кусаются по цене: лучшие берут доллар за 100 страниц.

А вот нейросеть Gemini от Google рвёт шаблоны — 6000 страниц за доллар.

Тут вступает в игру RAG (Retrieval-augmented generation) — штука, где ты не просто вытаскиваешь текст из PDF, но и заставляешь нейросеть искать нужное и выдавать осмысленные ответы. Хотите корпоративную базу знаний из кучи документов? Или хитрую аналитику по отчётам? Если у вас завалялись PDF и идеи — пишите @samatg.

Помогая клиенту из России запустить мобильное приложение, узнал, что Apple теперь разрешает принимать платежи картами напрямую (раньше всё шло только через App Store, к которому российские карты сейчас не привязать).

В Европе это стало возможно благодаря закону о цифровых рынках, а в России — благодаря решению ФАС.

Разработчикам всё равно придется платить Apple комиссию 27%, но зато можно принимать российские карты. Доступно только для российских разработчиков и пользователей. Вот тут отличная инструкция.

Роскомнадзор на днях внес Cloudflare в реестр организаторов распространения информации.

Cloudflare — крупнейший CDN в мире. Он ускоряет загрузку и защищает от DDoS-атак 20% сайтов на планете. Я настраиваю его всем своим клиентам.

Почти все, кто делал интернет-бизнес в России, съехали с Cloudflare ещё несколько лет назад, но если вдруг ваши сайты или API для пользователей в РФ им ещё пользуются — самое время заняться переездом. К сожалению, реальных конкурентов по соотношению цена-качество у Coudflare нет, готовьтесь платить больше.

P. S. Заодно в эту базу внесли снэпчат, но это, я надеюсь, никого не расстроит.

Grok 3 — новый искусственный интеллект от команды Илона Маска. В моих личных тестах он отвечает быстрее, точнее и полнее, чем chatGPT 4o. Ещё он имеет прямой доступ ко всему твиттеру (и остальному интернету), так что хорошо понимает про происходящее в мире прямо сейчас. С ценой не очень ясно, но сейчас он в фазе тестирования и доступен с обычной Pro подпиской на твиттер за 10 евро в месяц.

Маск повторят свой путь в других индустриях: в сентябре 2024, команда xAI запустила один из крупнейших суперкомпьютеров для искусственного интеллекта «Колосс» — 100 тысяч видеокарт H100; обычно такие проекты занимают годы, они его собрали за 122 дня! За следующие 92 дня добавили ещё 100 тысяч видеокарт, из них 50 тысяч — H200. Целятся в миллион видеокарт.

Рекомендую.

GDPR — это регламент Евросоюза о персональных данных, изменивший цифровое пространство во всем мире. Из-за него компании должны думать, какие данные и зачем они собирают, а люди могут влиять на то, какой информацией делятся.

По каким правилам собирают наши данные? Кто их придумал? И как обезопасить себя? В новом эпизоде подкаста поговорили с Сергеем Сайгановым — юристом, специализирующимся на теме персональных данных.

Слушайте и подписывайтесь: Apple, Youtube, Яндекс, Spotify, Castbox, Overcast, веб-версия.

У Великобритании получилось сделать то, что не могли США, Россия и Китай.

Под давлением правительства Его Величества, Apple перестала предоставлять сквозное (end-to-end) шифрование в iCloud для британских пользователей.

End-to-end шифрование гарантирует, что компания, которая хранит данные, не может их прочитать. Представьте себе банковскую ячейку, которую физически невозможно взломать и ключ от которой есть только у вас. Обычно, компании хранят данные всех пользователей в едином шифрованном пространстве — представьте себе комнату-сейф, когда ты внутри — то можешь взять что угодно с любой полки, ну или как минимум хранят копии ключей от индивидуальных сейфов пользователей. В случае сквозного шифрования — у каждого пользователя свой индивидуальный сейф и ключ есть только у него.

Понятно, что такая защита сильно не нравится правоохранителям.

Помните «закон Яровой» 2016 года? Там про многолетнее хранение данных о всей онлайн-коммуникации, включая звонки и переписки, о предоставлении всех ключей шифрования ФСБ и многое другое. В том же 2016 году в Великобритании приняли аналогичный «Акт о полномочиях следствия» (Investigatory Powers Act, IPA) по которому, в числе прочего, «операторы связи» должны по требованию государства выключать шифрование для доступа правоохранителей к данным пользователей. Судя по всему, британское правительство наконец отправило секретное предписание (конечно, они секретные и разглашение такого предписания — уголовное преступление) в Apple, а та не согласилась встраивать такой механизм в свою систему и просто выключила опцию сквозного шифрования для британских пользователей.

Интересно, что IPA противоречит европейскому GDPR, но после брекзита «Британия свободная страна и сама решает, как ей жить».

Остальным пользователям эпл эта система пока доступна, называется расширенная защита данных в iCloud (Advanced Data Protection, ADP), и включается в настройках (en).

Сегодня Либо/Либо запускают своё собственное приложение для прослушивания подкастов. Теперь все подкасты студии можно слушать не выходя из телеграма в @LiboLiboBot.

Недавно мы обсуждали с Йованом, как телеграм стал центром цифровой жизни. В том числе — дал возможность разрабатывать и распространять полноценные приложения на своей площадке, такая альтернатива апсторам.

Приложение Либо/Либо в телеграме — полноценный стриминг, который содержит всю библиотеку подкастов студии, с удобным плеером и простым интерфейсом. Не нужно устанавливать ничего нового или логиниться — просто в два клика запустить бот @LiboLiboBot и пойти слушать.

Мини-апп работает на всех платформах, где есть телеграм, бесплатно и устойчиво к блокировкам.

Под капотом это веб-приложение, интегрированное с некоторыми специфичными для телеграма javascript API. Официальная документация и отличная фанатская документация.

Если никогда не пользовались мини-апами в телеграме — рекомендую попробовать. А если вы хотите запустить своё приложение в телеграме — оставляйте заявку на сайте fansdev.ru или пишите в личку @samatg

Apple представила новую начальную модель айфона — 16e. Достойный телефон за 600 долларов.

Но главная новость этого анонса — то, что это первый телефон Apple с их собственным 5G чипом, назвали C1.

До этого все современные айфоны использовали чипы связи от лидера этой индустрии — Qualcomm.

Разработать качественный чип связи 5G — это по сложности примерно как сделать свой процессор или запустить ракету в космос; компании, которые умеют это делать, можно пересчитать по пальцам рук. Для входа на рынок, эпл еще в 2019 году купила бизнес Intel по производств чипов связи (как они это провернули — отдельная история). Пока что, C1 не не поддерживает самые высокоскоростные протоколы связи (mmWave). Посмотрим, когда у Apple получится разработать собственные чипы для флагманских моделей айфонов.

Все это — очередной логический шаг в вертикализации бизнеса, скоро Apple будет производить все ключевые компоненты своих устройств. Гениальный операционный директор Тим Кук продолжает оптимизировать бизнес. Это не только увеличивает и так не хилую маржу (чипы от Qualcomm были одним из дорогих компонентом айфонов), но и позволяет запихнуть еще одну компоненту на единый с процессором чип — так называемый SoC, System on a Chip. Такая интеграция получается быстрее, меньше по размеру и весу и более энергоэффективной.

Интересно, что Qualcomm владеет ключевыми патентами в области связи и почти все производители телефонов платят им отчисления за каждый телефон, даже если они не используют их чипы, но это отдельная история.

У Samsung и Huawei, кстати, уже есть собственные высокоскоростные чипы связи в SoC, так что в этом плане Apple в догоняющей роли. Удивительно, что даже здесь замешана геополитика — после введения американцами санкции против Huawei, они подписали c Samsung новое соглашение о сотрудничестве 🤯

Недавно ученые из китайского хэдж-фонда представили нейросеть DeepSeek R1, которая оказалась не хуже ведущих американских аналогов, при этом в 10 раз дешевле и к тому же с открытым исходным кодом. Американская биржа отреагировала нервно — акции подешевели почти на триллион долларов, многие заговорили о новой гонке вооружений.

Правда ли китайская нейросеть такая же хорошая, как и chatGPT? Благодаря чему получилось так сильно сэкономить? Значит ли открытый исходный код, что теперь каждый может сделать свою супер-крутую нейросеть? Можно ли запустить эту модель у себя на компьютере или даже на телефоне?

На все эти и многие другие вопросы мне ответил настоящий эксперт — технический директор, основатель и руководитель AI-стартапов из долины Артем Родичев. Слушайте наш разговор на всех подкаст-платформах: Apple, Youtube, Яндекс, Spotify, Castbox, Overcast, веб-версия.