По протоколу IP, сеть является иерархической структурой.

Нижний уровень иерархии принадлежит множеству узлов, например, компьютеров или других устройств, с уникальными IP-адресами. Между физическими и логическими узлами есть определенное соотношение, можно описать так: физическое устройство одно и тоже может иметь несколько IP-адресов, то есть может соответствовать нескольким логическим узлам. Как правило, так получается, когда устройство подключено с несколькими сетевыми адаптерами и/или модемами. Так получается, потому что с каждым из подключенных устройств должен быть связан один уникальный IP-адрес. Встречаются случаи, когда компьютеру, который имеет один сетевой адаптер или модем, присваивается несколько IP-адресов. Так получается, что в случае наличия у физического устройства нескольких IP-адресов, это устройство имеет несколько интерфейсов, так называемых "точек подключения" к логической сети.

Второй уровень получается вследствие группировки узлов. Такая группировка, получается, по совпадению номеров сетей в IP-адресах в логические сети или IP-сети. Между логическими сетями существует связь, которую осуществляют специальные устройства, такие как шлюзы, которые отвечают за целенаправленную передачу данных. Шлюзы могут выполнять дополнительные функции, которые связаны с обеспечением безопасности передаваемых данных, преобразованием адресов, фильтрацией. Шлюзы, осуществляющие только перенаправление данных между IP-сетями, называются маршрутизаторами, а сам процесс целенаправленной доставки данных от одной IP-сети к другой - маршрутизацией.