Ссылки: Веб-сайт Gensyn, Litepaper, Портфолио CoinFund, Статья TechCrunch.

Резюме инвестиционной диссертации

  • Многолетнее влияние на растущую сложность и ценность машинного обучения. Вычислительная сложность современных систем искусственного интеллекта удваивается каждые 3 месяца, в то время как ценность этих моделей продолжает быстро расти, в то время как бывший черный ящик -природа этих алгоритмов теперь все больше может быть приспособлена к большим понятным человеку иллюминаторам.
  • Новый дизайн системы координации и проверки: Gensyn создает систему проверки (testnet v1 будет развернута позже в этом году), которая эффективно решает проблему зависимости от состояния при обучении нейронной сети любого масштаба. Система сочетает контрольные точки обучения модели с вероятностными проверками, которые завершаются в цепочке. Он делает все это без доверия, а накладные расходы масштабируются линейно с размером модели (сохраняя постоянные затраты на проверку).
  • Тематическая направленность на децентрализацию ИИ. Большинство известных примеров приложений машинного обучения (беспилотные автомобили Tesla, Google DeepMind) производятся одним и тем же набором компаний, потому что индустрия глубокого обучения в настоящее время выглядит как игра в монополии между крупными технологическими компаниями, а также такими государствами, как Китай и США. Эти силы приводят к огромным силам централизации, которые противоречат web3 и даже историческому происхождению web1.

CoinFund гордится тем, что поддерживает недавний сбор средств Gensyn Protocol и видение команды, позволяющее безнадежно обучать нейронные сети в гипермасштабе и по низкой цене с помощью их новой системы проверки. Использование вероятностных проверок, которые завершаются в цепочке при подключении кнедоиспользуемым и недоиспользуемым источникам вычислений, начиная от недоиспользуемых в настоящее время игровых графических процессоров и заканчивая сложными пулами майнинга ETH1, которые вот-вот будут отключены от сети Ethereum. сетевой переход на Proof of Stake, протокол Gensyn не требует административного надзора или правовых мер, а скорее облегчает распределение задач и платежи программно через смарт-контракты. Более того, децентрализованный характер протокола означает, что в конечном итоге им будет управлять большинство сообщества, и его нельзя будет «отключить» без согласия сообщества; это делает его устойчивым к цензуре, в отличие от его аналогов web2. В конечном счете, мы считаем, что Gensyn стремится стать базовым слоем для собственных вычислений машинного обучения web3, поскольку сторонние участники в конечном итоге создают богатый пользовательский интерфейс и специальные функции во многих нишах.

Часть 1. Введение в многолетний непрерывный рост глубокого обучения

Каждое лицо, которое вы видите во время видеозвонка, и все звуки, которые вы слышите, манипулируются. Для улучшения качества связи нейросети выборочно настраивают разрешение в Zoom и подавляют фоновый шум в Microsoft Teams. В более поздних достижениях даже видео с более низким разрешением приснилось в более высоком разрешении. Нейронные сети — это модели, используемые в области глубокого обучения искусственного интеллекта. Они в общих чертах основаны на структуре человеческого мозга и имеют множество применений, возможно, в конечном итоге создав искусственный интеллект человеческого уровня. Большие модели обычно дают лучшие результаты, а аппаратное обеспечение, необходимое для современной разработки, удваивается каждые три месяца. Этот взрыв в развитии сделал глубокое обучение фундаментальной частью современного человеческого опыта. В 2020 году нейронная сеть управляла радаром американского самолета-разведчика, языковые модели теперь пишут мошеннические электронные письма лучше, чем люди, а алгоритмы беспилотных автомобилей превосходят людей во многих средах.

GPT-3 175B, самая большая модель GPT-3, предложенная OpenAI в Brown et al. (2020) для обучения использовался кластер из 1000 графических процессоров NVIDIA Tesla V100, что примерно эквивалентно 355 годам обучения на одном устройстве. DALL-E от Ramesh et al. (2021), еще одна модель Transformer от OpenAI, имеет 12 миллиардов параметров и была обучена на более чем 400 миллионах изображений с подписями. OpenAI взял на себя расходы по обучению DALL-E, но спорно отказался открыть исходный код модели, а это означает, что, возможно, одна из самых важных современных мультимодальных моделей глубокого обучения остается недоступной для всех, кроме избранных. Огромные потребности в ресурсах для создания этих основных моделей создают значительные барьеры для доступа, и без метода объединения ресурсов, сохраняющего при этом ценность, вероятно, вызовет застой в развитии ИИ. Многие считают, что эти обобщенные модели являются ключом к раскрытию общего искусственного интеллекта (AGI), из-за чего нынешний метод обучения в изолированных, искусственных бункерах кажется абсурдным.

Существующие решения, обеспечивающие доступ к вычислительным ресурсам, либо олигополистичны и дороги, либо просто неработоспособны, учитывая сложность вычислений, необходимых для крупномасштабного ИИ. Чтобы удовлетворить растущий спрос, требуется система, которая экономично использует все доступные вычислительные ресурсы (в отличие от сегодняшней глобальной загрузки процессора примерно на 40%). Сейчас эту проблему усугубляет тот факт, что сами вычислительные ресурсы ограничены асимптотическим прогрессом в производительности микропроцессоров — наряду с цепочкой поставок и геополитической нехваткой чипов.

Часть 2. Зачем нужна координация Gensyn?

Фундаментальной задачей при построении этой сети является проверка завершенной работы по машинному обучению. Это очень сложная проблема, которая находится на стыке теории сложности, теории игр, криптографии и оптимизации. Помимо человеческих знаний в области проектирования моделей, есть три фундаментальные проблемы, замедляющие развитие прикладного машинного обучения: 1) доступ к вычислительной мощности; 2) доступ к данным; и 3) доступ к знаниям (маркировка достоверности). Gensyn решает первую проблему, предоставляя доступ по запросу к глобально масштабируемым вычислениям по справедливой рыночной цене, в то время как Gensyn Foundation будет стремиться поощрять решения второй и третьей проблем посредством исследований, финансирования и сотрудничества с другими протоколами.

В частности, доступ к превосходным процессорам позволяет обучать все более крупные/сложные модели. За последнее десятилетие увеличение плотности транзисторов и повышение скорости доступа к памяти/распараллеливания значительно сократили время обучения больших моделей. Виртуальный доступ к этому оборудованию через облачных гигантов, таких как AWS и Alibaba, одновременно расширил его применение. Соответственно, государство сильно заинтересовано в приобретении средств для производства современных процессоров. Материковый Китай еще не имеет сквозных возможностей для производства современных полупроводников (а именно, кремниевых пластин), важнейшего компонента процессоров. Они должны импортировать их, в частности, из TSMC (Тайваньская компания по производству полупроводников). Продавцы чипов также пытаются заблокировать доступ других клиентов к производителям чипов, скупая запасы. На государственном уровне США агрессивно блокируют любые действия китайских компаний по приобретению этой технологии. Далее в технологическом стеке некоторые компании дошли до создания собственного оборудования для глубокого обучения, такого как кластеры Google TPU. Они превосходят стандартные графические процессоры при глубоком обучении и не продаются, а только сдаются в аренду.

Значительное увеличение масштабов доступных вычислений при одновременном снижении их удельной стоимости открывает дверь в совершенно новую парадигму глубокого обучения как для исследовательских, так и для промышленных сообществ. Улучшения в масштабе и стоимости позволяют протоколу создавать набор уже проверенных, предварительно обученных базовых моделей, также известных как Фундаментальные модели, аналогично зоопаркам моделей популярных фреймворков. Это позволяет исследователям и инженерам открыто исследовать и обучать лучшие модели на огромных открытых наборах данных, подобно проекту Eleuther. Эти модели решат некоторые фундаментальные проблемы человечества без централизованного владения или цензуры. Криптография, особенно функциональное шифрование, позволит использовать протокол для защиты личных данных по запросу. Огромные базовые модели могут быть настроены любым пользователем, использующим проприетарный набор данных, сохраняя ценность/конфиденциальность этих данных, но при этом делясь коллективными знаниями при разработке моделей и исследованиях.

Часть 3. Gensyn обеспечивает централизацию данных Web3

Интернет мог быть рожден правительством США в 1960-х, но к 1990-м это была анархическая сеть творчества, индивидуализма и возможностей. Задолго до того, как Google начал накапливать TPU, такие проекты, как SETI@home, пытались обнаружить инопланетную жизнь с помощью краудсорсинга децентрализованных вычислительных мощностей. К 2000 году SETI@home имел скорость обработки 17 терафлопс, что более чем в два раза превышает производительность лучшего суперкомпьютера того времени, IBM ASCI White. Этот период времени обычно называют web1, за мгновение до гегемонии крупных платформ, таких как Google или Amazon (web2), но децентрализованные вычисления не смогли масштабироваться для удовлетворения первоначальных потребностей Интернета из-за нескольких проблем в то время.

Однако текущая централизация веб-инфраструктуры на огромных платформах web2 создает свои собственные проблемы, такие как стоимость (валовая прибыль AWS оценивается в 61%, что представляет собой сжатие прибыли для большинства небольших исследователей и предприятий, ориентированных на данные. В то же время централизованные вычислительные экземпляры также жертвуют контролем — AWS отключила инфраструктуру популярной правой платформы социальных сетей Parler с уведомлением за один день после бунта в Капитолии 6 января 2021 г. Многие согласились с этим решением, но прецедент опасен, когда На AWS размещено 42 % из 10 000 самых популярных сайтов в Интернете. Однако обучение моделей глубокого обучения на децентрализованном оборудовании затруднено из-за проблемы проверки, которую помогает решить протокол Gensyn.

Построение рынка в виде протокола Web3 устраняет централизованные накладные расходы на масштабирование и снижает входные барьеры для новых участников поставок, позволяя сети потенциально охватить все вычислительные устройства в мире. Соединение всех устройств через единую децентрализованную сеть обеспечивает уровень масштабируемости, которого в настоящее время невозможно достичь с помощью любого существующего провайдера, предоставляя беспрецедентный доступ по запросу ко всем мировым вычислительным ресурсам. Для конечных пользователей это полностью устраняет дилемму между затратами и масштабом и обеспечивает прозрачные и недорогие обучающие вычисления машинного обучения для потенциально бесконечной масштабируемости (вплоть до мировых ограничений физического оборудования) и для определения цен за единицу в зависимости от динамики рынка. Это обходит обычные рвы, которыми пользуются крупные поставщики, значительно снижает цены и способствует действительно глобальной конкуренции на уровне ресурсов, и даже учитывает случай, когда существующие поставщики облачных услуг также рассматривают протокол Gensyn как канал распространения, который дополняет более централизованные собственные комплексные предложения.

Вывод:

Учитывая, что искусственный интеллект почти так же популярен, как криптовалюта и блокчейн, наш тезис об инвестировании в Gensyn, представленный здесь, должен пройти тесты на простоту понимания и доказательную базу, и в то же время быть столь же амбициозным в отношении возможностей, предоставляемых протоколу. добавить ценность изначально целевой, но универсальной сети ресурсов, родной для web3. Мы считаем, что с протоколом Gensyn мы видим начало гипермасштабируемой и экономичной сети координации, которая прокладывает путь к еще более ценным идеям, которые закладывают основу для множества приложений в будущем.

О CoinFund

CoinFund — это многопрофильная ведущая инвестиционная компания, ориентированная на блокчейн, основанная в 2015 году и базирующаяся в США. В совокупности у нас есть обширный послужной список и опыт в области криптовалюты, традиционного капитала, кредита, частного капитала и венчурного инвестирования. Стратегии CoinFund охватывают как ликвидные, так и венчурные рынки и извлекают выгоду из нашего междисциплинарного подхода, который синхронизирует технические криптографические способности с традиционным финансовым опытом. Применяя подход «сначала основатели», CoinFund тесно сотрудничает со своими портфельными компаниями, чтобы внедрять инновации в пространство цифровых активов.

Отказ от ответственности

Контент, представленный на этом сайте, предназначен только для информационных и дискуссионных целей, и на него нельзя полагаться в связи с конкретным инвестиционным решением или его следует рассматривать как предложение, рекомендацию или ходатайство в отношении каких-либо инвестиций. Автор не поддерживает какую-либо компанию, проект или токен, обсуждаемые в этой статье. Вся информация представлена ​​здесь «как есть», без каких-либо гарантий, явных или подразумеваемых, и любые прогнозные заявления могут оказаться неверными. CoinFund Management LLC и ее аффилированные лица могут иметь длинные или короткие позиции в токенах или проектах, обсуждаемых в этой статье.