Gemini Live для NVDA – Документация

Версия 1.0

Gemini Live обеспечивает живые голосовые разговоры в реальном времени с самым современным ИИ от Google непосредственно в вашей программе экранного доступа NVDA. Разговаривайте естественно, слушайте ответы, похожие на человеческие, и взаимодействуйте с Gemini с помощью голоса или набранного текста — не покидая привычный рабочий процесс. Это дополнение превращает NVDA в голосового ИИ-помощника без использования рук для исследований, письма, обучения или обычной беседы.

Содержание

  1. Обзор
  2. Возможности
  3. Установка
  4. Начало работы
  5. Настройки и конфигурация
  6. Библиотека голосов (30+ естественных голосов)
  7. Интерфейс живого разговора
  8. Управление ключами API (ротация)
  9. Поиск Google и выполнение кода
  10. Сочетания клавиш
  11. Устранение неполадок
  12. Системные требования
  13. Поддержка и сообщество
  14. Конфиденциальность и безопасность

Обзор

Gemini Live для NVDA — это профессиональное дополнение, которое подключает вас к аудиомоделям Google Gemini в реальном времени. В отличие от традиционных текстовых чат-ботов, это дополнение поддерживает полноценные голосовые разговоры в дуплексном режиме: вы говорите, ИИ слушает и отвечает естественной речью, а вы можете прервать его или набрать текст в любой момент. Дополнение поддерживает несколько ключей API с автоматической ротацией, 30 встроенными высокореалистичными голосами (мужскими, женскими, разных стилей) и расширенными функциями, такими как поиск Google и безопасное выполнение кода.

Все настройки — включая системные инструкции, предпочтения голоса, температуру, ключи API и параметры инструментов — сохраняются локально и действуют при перезапуске NVDA. Нужен ли вам помощник для мозгового штурма, ассистент по программированию, помощник в исследованиях или просто собеседник — Gemini Live легко впишется в вашу работу.

Возможности

Установка

  1. Скачайте файл .nvda-addon для Gemini Live.
  2. Убедитесь, что NVDA запущена (при необходимости нажмите Control+Alt+N).
  3. Откройте меню NVDA с помощью NVDA+N, перейдите в Сервис, затем Менеджер дополнений.
  4. Нажмите кнопку Установить, выберите скачанный файл дополнения.
  5. Подтвердите установку и перезапустите NVDA при появлении запроса.
  6. После перезапуска откройте Gemini Live через NVDA+Alt+G или из меню Сервис NVDA.
Примечание: Для работы дополнения требуются действительные ключи API Google Gemini с доступом к аудиомоделям реального времени. Ключи API не включены в дополнение; их необходимо получить в Google AI Studio или Google Cloud Console.

Начало работы

Нажмите NVDA+Alt+G, чтобы открыть главное окно Gemini Live. Отсюда вы можете:

Кроме того, используйте прямое сочетание NVDA+S в любом месте, чтобы сразу начать живой разговор с последними использованными настройками (если они заданы).

При запуске разговора появляется диалог подключения, пока дополнение по очереди пробует каждый ключ API. После подключения вы услышите звук подтверждения (SystemAsterisk), и откроется главное окно разговора.

Настройки и конфигурация

Нажмите кнопку Настройки в главном диалоге или откройте их через меню Сервис. Все настройки автоматически сохраняются в %APPDATA%\gemini-live-application\settings.ini.

Вкладка «Общие настройки»

Библиотека голосов (30+ естественных голосов)

Gemini Live предлагает широкий выбор высококачественных нейронных голосов. Каждый голос имеет уникальный идентификатор, стиль, пол и краткое описание. Ниже приведён полный список:

Zephyr – Яркий, Женский
Puck – Жизнерадостный, Мужской
Charon – Информативный, Мужской
Kore – Твёрдый, Женский
Fenrir – Возбудимый, Мужской
Leda – Юный, Женский
Orus – Твёрдый, Мужской
Aoede – Беззаботный, Женский
Callirrhoe – Неторопливый, Женский
Autonoe – Яркий, Женский
Enceladus – Дыхательный, Мужской
Iapetus – Чёткий, Мужской
Umbriel – Неторопливый, Мужской
Algieba – Плавный, Мужской
Despina – Плавный, Женский
Erinome – Чёткий, Женский
Algenib – Хриплый, Мужской
Rasalgethi – Информативный, Мужской
Laomedeia – Жизнерадостный, Женский
Achernar – Мягкий, Женский
Alnilam – Твёрдый, Мужской
Schedar – Ровный, Мужской
Gacrux – Зрелый, Женский
Pulcherrima – Прямолинейный, Женский
Achird – Дружелюбный, Мужской
Zubenelgenubi – Непринуждённый, Мужской
Vindemiatrix – Мягкий, Женский
Sadachbia – Живой, Мужской
Sadaltager – Осведомлённый, Мужской
Sulafat – Тёплый, Женский

Все голоса находятся на стороне сервера и не требуют локальной загрузки. Дополнение отправляет идентификатор голоса при каждом запросе сеанса.

Интерфейс живого разговора

Когда сеанс запущен, открывается главное окно разговора со следующими элементами:

Во время разговора:

Когда вы завершаете сеанс, проигрывается звук SystemExit, и окно закрывается автоматически. История разговоров не сохраняется локально из соображений конфиденциальности.

Управление ключами API (ротация)

Дополнение поддерживает несколько ключей API для резервирования и обработки ограничений частоты запросов. Для настройки:

  1. Откройте настройки из главного окна.
  2. В поле «Ключ(и) API» вводите по одному ключу на строку, например:
    AIzaSyA1b2c3d4e5f6g7h8i9j0k1l2m3n4o5p6q7r8s9t
    AIzaSyB2c3d4e5f6g7h8i9j0k1l2m3n4o5p6q7r8s9u
  3. Сохраните настройки.

При запуске разговора дополнение пробует ключи по порядку. Если ключ не работает (недействителен, истёк, превышена квота или модель недоступна), оно автоматически переходит к следующему ключу с задержкой 0,5 секунды. В диалоговом окне прогресса показывается, какой ключ сейчас используется. Если все ключи не работают, появляется сообщение об ошибке.

Совет: Получите ключи API в Google AI Studio. Убедитесь, что ключи имеют доступ к «Live API» и выбранной вами модели. Действуют ограничения бесплатного тарифа.

Поиск Google и выполнение кода

Gemini Live может дополнительно использовать два мощных инструмента:

Поиск Google

При включении этой функции Gemini может выполнять поиск в интернете в реальном времени, чтобы отвечать на вопросы о текущих событиях, свежих данных или фактической информации. Это полезно для новостей, погоды, спортивных результатов, курсов акций или любых запросов, требующих актуальных знаний. ИИ обычно указывает источники в ответе.

Выполнение кода

При включении этой функции Gemini может писать и выполнять код Python в безопасной изолированной среде. Это идеально подходит для:

Код выполняется на стороне сервера в инфраструктуре Google и не имеет доступа к вашим локальным файлам. Результаты возвращаются в виде текста или аудиоописаний. Включайте эту функцию только при необходимости вычислительной помощи; она может увеличить задержку ответа.

Сочетания клавиш

СочетаниеДействие
NVDA+Alt+GОткрыть главное окно Gemini Live (настройки, запуск, о программе)
NVDA+SНачать живой разговор напрямую (с сохранёнными настройками)
Alt+F4 (в окне разговора)Завершить сеанс и закрыть окно
Enter (в текстовом поле)Отправить набранное сообщение (Shift+Enter — новая строка)
Escape (в любом диалоге)Отменить или закрыть без применения
Ctrl+Tab / Ctrl+Shift+TabПереключение между вкладками диалога (окно настроек)

Все кнопки полностью доступны через навигацию по объектам NVDA и стандартную навигацию по клавише Tab.

Устранение неполадок

Нет звука или микрофон не работает: Убедитесь, что в настройках звука Windows правильно заданы устройства ввода и вывода по умолчанию. Дополнение использует PyAudio и обращается к системным микрофону и динамикам по умолчанию.

Не удаётся подключиться ни с одним ключом API: Проверьте, что каждый ключ API действителен, для него включена оплата (или действует бесплатный тариф) и есть доступ к выбранной live-модели. Для некоторых ключей может потребоваться включить Live API в Google Cloud Console.

Высокая задержка или прерывистый звук: Чаще всего это связано с сетью. Используйте стабильное широкополосное соединение. Выберите модель «flash-live-preview» для меньшей задержки.

Голос не соответствует выбранному: Некоторые идентификаторы голосов могут быть устаревшими или недоступными в вашем регионе. Попробуйте другой голос из библиотеки.

NVDA перестаёт отвечать при запуске сеанса: Подождите несколько секунд; дополнение пробует ключи API. Если проблема сохраняется, перезапустите NVDA и убедитесь, что ключи API указаны верно.

Поиск Google или выполнение кода не работают: Убедитесь, что вы включили эти функции в настройках до начала разговора. Их нельзя изменить во время сеанса.

Примечание: Вся аудиообработка (захват с микрофона и воспроизведение через динамики) использует частоту 16 кГц на входе и 24 кГц на выходе. Если возникает эхо или обратная связь, используйте наушники вместо динамиков.

Системные требования

Поддержка и сообщество

Для получения помощи, отправки предложений или сообщения о проблемах:

Ваши отзывы напрямую влияют на будущие обновления. Предложения по новым голосам, дополнительным инструментам или улучшению рабочих процессов всегда приветствуются.

Конфиденциальность и безопасность

Gemini Live для NVDA разработан с учётом конфиденциальности как основного принципа:

Для максимальной конфиденциальности избегайте передачи личной или финансовой информации во время разговоров, как и при использовании любого облачного ИИ-сервиса.

Важно: Это дополнение не связано с Google. «Gemini» и «Google» являются товарными знаками Google LLC. Дополнение использует официальные клиентские библиотеки Google Generative AI.

Gemini Live для NVDA – Версия 1.0 – Создано для естественной голосовой ИИ-помощи.

Автор: Sujan Rai | Telegram: @blindtechvisionary