Vpn ошибка 789 l2tp windows 10

Repair L2TP VPN error using our practical solutions or VPN pick

by Milan Stanojevic

Milan has been enthusiastic about technology ever since his childhood days, and this led him to take interest in all PC-related technologies. He’s a PC enthusiast and he… read more

Updated on October 4, 2023

Using a VPN is a great way to protect your online privacy, but sometimes you might experience issues with it. Many Windows 10/11 users reported VPN error 789 which states the following message:

The L2TP connection attempt failed because the security layer encountered a processing error during initial negotiations with the remote computer

This issue will prevent you from achieving a safe connection on your PC, so it’s crucial that you fix it. So keep on reading to find out how to fix this problem once and for all.

Why does VPN error 789 appear?

This error pops up when your system is not properly set up to connect to an L2TP server, thus the connection attempt fails even before you establish a connection with the server.

It is also linked to the incorrect configuration of your operating system like Windows 10 in this case. This generic error is thrown when the IPSec negotiation fails for the L2TP/IPSec connections.

Other possible causes include:

• L2TP-based VPN client (or VPN server) is behind NAT
• The wrong certificate or pre-shared key is set on the VPN server or client
• A machine certificate or trusted root machine certificate is not present on the VPN server
• Machine Certificate on VPN Server does not have Server Authentication as the EKU

Before trying any of these solutions, ensure that L2TP and IPSec pass-through options are enabled from your router.

If you configured your VPN service manually, then make sure you use the preshared key 12345678. If this doesn’t work, here are more solutions you can use to fix this problem on your PC.

How do I fix the VPN error 789 on Windows 10 & 11?

1. Reset network adapter
2. Check the certificate
3. Use a reliable VPN service
4. Re-enable IPSec on your computer

1. Reset network adapter

1. Press the Windows key + X and select Device Manager.
   
2. Identify your network adapter and right-click on it then select Uninstall device.
   
3. Click on Uninstall to confirm.
   
4. Restart your computer. The device will reinstall and should reset it to default settings.

Refreshing the network adapter driver can make this problem go away quickly so make sure you try it out by performing the steps above.

2. Check the certificate

It is very important to ensure the correct certificate is used both on the client and the server side.

In case the two don’t match, you won’t be able to use the virtual private network. You might need to renew the certificate with your provider.

If you are using a Pre Shared Key (PSK), ensure that the same PSK is configured on the client-side, and the VPN server machine.

4. Re-enable IPSec on your computer

1. Press the Windows key + R keyboard shortcut to start Run.
2. Type services.msc and press Enter or click OK.
   
3. Double-click the IKE and AuthIP IPSec Keying Modules service.
   
4. Set the Startup type to Automatic. If the service is running, click Stop and then Start. If it’s disabled, just click Start.
   
5. Find IPSec Policy Agent and double-click it.
   
6. Set the Startup type to Automatic. If the service is running, stop it and start it again. If it’s not running, start it.
   
7. Save the changes.
8. Restart your VPN service.

Once you have done all the steps above carefully, the VPN should work smoothly as the protocol settings have been reset to default.

If, however, it doesn’t work, you have to manually set the encryption method both for the server and the client-side, in order for them to be compatible.

In case you have a user-specific issue on your computer yet you still get the L2TP connection attempt failed error, you can also contact the customer care or tech support team for your specific VPN provider.

Read more about this topic

• Fix: EXCEPTION_ILLEGAL_INSTRUCTION Error on Windows 11
• Delayed Write Failed Error on Windows 11: How to Fix it
• How to Remove Windows Copilot on Windows 11

How do I fix Windows 11’s VPN error 789?

The following guide presents a useful method to resolve the VPN 789 error on Windows 11 PC.

Before starting this system process, be sure you understood it correctly and apply the steps as shown below to avoid potential registry damages.

NOTE

This method works only if your system is behind a NAT.

1. Press Windows key + R and enter regedit.
   
2. Navigate to the following path: HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\PolicyAgent
   
3. Right-click the space in the right pane and expand the New section. Select DWORD (32-bit) Value.
   
4. Enter AssumeUDPEncapsulationContextOnSendRule as the name of the DWORD and double-click it.
   
5. Set the Value data to 2 and click OK to save changes.
   

How does L2TP work?

Layer 2 Tunneling Protocol, also known as L2TP, is a tunneling protocol used by many VPN software.

It combines the features of other protocols including PPTP and L2F and establishes a safe connection between the VPN client and the server.

It’s important to mention that L2TP doesn’t offer encryption, and this is why it’s always paired with IPSec in order to provide the necessary security.

L2TP is also considered better than PPTP. It secures the traffic passing by it in an IPsec tunnel. If you have issues with it, we have an excellent guide on how to fix L2TP problems.

In addition, the ports you need to open are 500 and 4500 for UDP. You have the complete guide on unblocking L2TP for other ports and more.

Which is better, paid or free VPN?

While free VPNs are useful, they usually come with major limitations. In most cases, you’ll have a daily bandwidth cap. Other restrictions include the number of servers or the maximum speed that you can achieve.

With a reliable and paid VPN, you’ll have unlimited access to any server and no data restrictions, which makes it a superior choice for most users.

Fixing VPN error 789 is relatively simple, and we hope that this guide helped you solve the issue on your PC.

If the issue is still there, you can change your software completely. Just check our list including the best VPNs for Windows 10 and pick the one that suits your needs.

Do let us know if any of these solutions fixed VPN error 789 by leaving a comment in the section below.

Всем привет! Сегодня наткнулся на проблему – при подключении к интернету Beeline вылезает ошибка 789 с текстом: «Удалённый компьютер не отвечает».  Мне удалось найти решение, поэтому я и написал эту статью. Суть проблемы – чаще всего эта ошибка возникает из-за проблем подключения к удаленному серверу из-за казуса с безопасностью и шифрованием при использовании коннекта L2TP/IPSec. Напомню, что это один из протоколов шифрования для подключения по каналу к VPN.

Как итог, если у вас на компьютере неправильно установлены конфигурации двух ключей в реестре. Эти ключи нужны для правильного подключения к L2TP. И тут есть несколько вариантов, или у вас этих ключей нет – может вирус покуролесил, или какая-то программа. Или они после обновления изменились, но это можно исправить. Второй вариант, что у вас заблокирован UDP порт 1701 или 500 – эти порты также используются для связи.

ШАГ 1: Открытие порта

Во многих статьях, начинается описание с изменения параметров ключей реестра. Но мы сначала откроем порт 1701 и 500, проверим подключение, а уже потом приступим к изменению конфига реестра. Если мы сначала будем пробовать менять реестр, а потом откроем порт, то нам потом опять придется идти в реестр, а это лишнее время. В общем для начала пробуем открыть порт.

1. Нам нужно открыть «Панель управления». В Windows 7 утилита находится сразу в «Пуск», в 10-ке можно найти её через поиск.

1. Откройте «Брандмауэр Защитника Windows».

1. «Доп. параметры».

1. Правой кнопкой мыши по правилам для входящего подключения и создаем новое правило.

1. «Для порта».

1. Выбираем «UDP». Вообще используется порт 1701, но иногда возникает проблема с портом 500 – поэтому вписываем их через запятую.

1. Разрешить подключение.

1. Тут ничего не меняем.

1. В конце обязательно напишите имя, чтобы не потерять параметр.

1. То же самое правило создаем для исходящего подключения.

Проверяем подключение. Скорее всего ошибка возникнет вновь – это нормально, теперь переходим к следующему шагу. В любом случае теперь мы уверены, что порт открыт.

ШАГ 2: Исправление реестра

1. Откройте редактор реестра – это можно сделать двумя способами. Вы можете найти данное приложение через поиск по названию или использовать сокращение:

regedit

1. В той же десятке домашней версии иногда бывает баг, что приложение не находится. Тогда находим на клавиатуре клавиши и R, нажимаем одновременно. После этого вылезет окошко, куда нужно вписать аналогичную короткую команду, английскими буквами.

1. Теперь внимательно проходим по пути от самого корня «HKEY_LOCAL_MACHINE». Далее переходим в «System» и находим подраздел «CurrentControlSet», там находим папку «Services». Останется перейти сначала в «Rasman» и открыть последнюю папку «Parameters».

1. Нас интересует два ключа. Первый «ProhibitIpSec» – этот параметр разрешает или запрещает локальную политику IP безопасности и шифрования. Второй «AllowL2TPWeakCrypto» – на самом деле его в самом начале пока не будем трогать и оставим со значением по умолчанию. У некоторых параметра «ProhibitIpSec» может и не быть. Поэтому создаем его – кликаем правой кнопкой мыши по свободной области. Выбираем «Создать» – «Параметр DWORD (32 бита)». ProhibitIpSec

1. Создастся параметр, который нужно переименовать в «ProhibitIpSec». Открываем двойным щелчком ЛКМ и устанавливаем значение один (1).

1. Кликаем по кнопке «ОК». Перезагружаем компьютер и проверяем подключение.

Если ошибка остается, то делаем следующее. Если параметр «AllowL2TPWeakCrypto» есть, то меняем ему значение с нуля (0) на единицу (1) или наоборот. Если такого параметра нет, то создаем новый «DWORD» и пробуем два значения ноль (0) и единица (1). Если оба варианта не дадут результата, то измените параметр «ProhibitIpSec» на ноль (0).

Почему я не могу вам сказать точные значения параметра? – все дело в том, что тут все зависит от того, какое шифрование использует конечный сервер, к которому вы подключаетесь. Если сервер использует шифрованный канал, то нужно, чтобы стояло значение 1, если нет, то 0. И это я говорю только про параметр «AllowL2TPWeakCrypt». Если сервер применяет параметры проверки IP Sec, то нужен второй параметр, который мы ранее создали.

И как итог, нужно будет пробовать 4 разных варианта. Но об этом вы не узнаете, и лучше проверить все опытным путем. Я понимаю, что это немного неудобно, но только так вы сможете понять, какой тип подключения используется сервером, к которому вы подключаетесь.

Параметр «AllowL2TPWeakCrypt» используется для шифрования «Message Digest 5 (MD5)» и «DES (Encryption Standard)». Он используется для туннелирования IPSec. По умолчанию в некоторых версиях виндовс он выключен. А вот используется ли он на сервере? – никто вам не ответит, поэтому тут нужно проверять оба параметра.

Например, у Билайн не используется шифрование, а вот если вы подключаетесь к корпоративной сети, то там обязательно должен быть включен IPSec. После каждого изменения нужно перезагружать систему, чтобы значения реестра вступили в силу.

Не помогло

Если ничего из вышеперечисленного не помогло, то пробуем несколько вариантов.

• Если ошибка возникла внезапно, то пробуем откатить операционную систему, через средства восстановления, которые находятся в «Панели управления».
• Пробуем почистить комп от вирусов.
• Чистим комп от различного мусора и исправляем баги реестра – об этом подробно написано тут.
• Звоним провайдеру или обращаемся к системному администратору сети, который заведует подключением к VPN. Возможно есть какие-то определенные параметры, которые нам нужны.