Kablosuz iletişim ağlarında güvenliğin sağlanması, güvenlik sistemlerinin ens g u g g uzorlu problemlerinden biridir. Kablosuz ağların tümyayın doğası, onları yerel sabitg u gağlara nazaran gizli dinleme ve aktif saldırılara karşı daha korunmasız kılmaktadır.g sAyrıca, kablosuz ağlar üzellikle enerji ve bant genişliği olanakları bakımından sınırlıdırgo sgve bu durum kablosuz ağlarda güvenliği temin etmeyi güşleştirmektedir. Bu prob-g u g uc slemler, üzellikle uye sayısının şok fazla olduğu ve uyelerin sisteme giriş-şıkışlarının sıko ü c g ü sc sgerşekleştiği dinamik karakteristikteki kablosuz ağlarda büyümektedir.c sg g uuBiz bu tezde, yukarıda belirttiğimiz problemleri hedef alarak, her biri kablosuzgağlarda değindiğimiz sorunlara etkin şüzümler sağlayan yedi yeni şalışma üneriyoruz.g g g co u g cs oBu şalışmaların ana konusunu, uydu ağlarında ve askeri tasarız mobil ağlarda güvenliğincs g g u gsağlanması oluşturmaktadır. Biz, bu şalışmalarımızda kablosuz ağ güvenlik sistemler-g s cs guine uş temel noktada yenilik getirdik: Yapısal tasarım, bütünleşik anahtar yünetimüc uu s oteknikleri ve bildiğimiz kadarıyla daha ünce güvenli uydu şoklu yayın sistemleri veg o u caskeri tasarsız mobil ağlarda kullanılmamış yenilikşi kriptograï¬k yaklaşımlar. Sistem-g s c slerimizde yer alan karma anahtar yünetim teknikleriyle birleştirilmiş yapısal tasarımo s sprensipleri ?katmanların bağımsızlığı? prensibi uzerine kuruludur. Bu prensibe güre,g g ü okatmanlarından herhangi birinde gerşekleşen değişiklik, diğer katmanlara sirayet et-c s gs gmemelidir. Karma anahtar yünetim tekniklerimiz, mantıksal anahtar ağacı temellio gmerkezi anahtar yünetim teknikleri ile dağıtık anahtar yünetim tekniklerinin etkino g obir kombinasyonundan oluşmaktadır. Güvenlik mekanizmalarımızda kullanılan krip-s utograï¬k yüntemler ünerdiğimiz güvenlik mekanizmalarına uygun olarak seşilmiştir.o o g u c sËcsIlk şalışma olarak, yeni karma anahtar yünetim tekniklerimizi ve katmanlarınoË Ëbağımsızlığı prensibini ortaya atan Iki Katmanlı Pintsov-Vanstone Imzasını(TTPVSS)g güneriyoruz. Bu yaklaşımlar, uydu uzerindeki yeniden anahtarlama yükünü ünemlio s ü uuuo2ülşude azaltmakta ve geleneksel yüntemlere nazaran ünemli avantajlar sağlamaktadır.o cü o o gAyrıca, yenilik olarak TTPVSS, avantajlar sağlayan Eliptik Eğri Pintsov-Vanstoneg gËImza Semasını (ECPVSS) kullanmaktadır. Bu şalışmayı müteakiben, yeni bir Elliptikş cs uEğri Menezes-Qu-Vanstone (ECMQV) temelli uş katmanlı uydu güvenli şoklu yayıng üc u cmekanizması üneriyoruz. Bu güvenlik mekanizması, daha yüksek bir güvenlik ve iyi biro u u uperformans sağlamak amacıyla, GEO, MEO ve LEO uydularının kendilerine üzgü nite-g ouliklerinden faydalanmaktadır. ECMQV, diğer klasik kriptograï¬k yüntemlerden farklıg oolarak, temel kriptograï¬k amaşlara ulaşmakta ve aktif saldırılara karşı da güvenliğic s s u gtemin edebilmektedir. Diğer şalışmamız olan NAMEPS, signcryption temelli ve şokgcs ckatmanlı uydu şoklu yayın güvenlik protokolü, uyduların uzerindeki yükü daha dac u u ü uuazaltmak amacıyla, şok katmanlı bir mimariyi ve üzel karma anahtar yünetimi teknik-c o olerini bir arada kullanmaktadır. NAMEPS geleneksel kriptograï¬k yüntemlere güreo oünemli avantajlar sağlayan, şoklu alıcılı signcryption şemasını kullanmaktadır. Güvenlio g c s uuydu şoklu yayın sistemleri dışında, askeri mobil tasarsız ağlarda güvenliği sağlamakc s g u g guzere, HIMUTSIS (Signcryption tipi anahtar değişim şema temelli hiyerarşik şok kat-ü gs s scmanlı adaptif tasarsız ağ güvenlik protokolü)'i üneriyoruz. HIMUTSIS, askeri iletişimgu uo sağlarındaki tek noktaya bağımlılık problemini ve eşik değeri kriptograï¬ gereksinimig g s gazaltacak yeni bir şok katmanlı yapı ünermektedir. Ayrıca, yeni bir yaklaşım olarakc o sHIMUTSIS, yüksek performans ve güvenlik sağlayan şok seviyeli bir güvenlik sis-u u g c utemi ve signcryption temelli anahtar değişim protokollerini kullanmaktadır. Bu tezgsşalışmasında ağ güvenliği mekanizmalarına ek olarak, mevcut bazı kriptosistemlerincs gu giyileştirilmesi uzerinde de şalıştık. Bu bağlamda, orijinal Merkle kriptosistemi (MC)s ü cs gve onun bir varyantı uzerinde ünemli güvenlik avantajları bulunan Geliştirilmiş Merkleü o u s sKriptosistemini (IMC) üneriyoruz. Buna ek olarak, signcryption temelli yaklaşımlarlao sIMC algoritmasını birleştiren STAKE (Signcryption tipi kimlik onaylı anahtar oluştur-s sma) protokolü uzerinde de şalışmaktayız. Sonuş olarak, bu tez şalışmasında, bizleruü cs c cskablosuz ağlarda güvenlik ve kriptograï¬ konularında geleneksel yaklaşımlara nazarang u sünemli avantajlar sağlayan temel şalışmalarımızı bütünleşik bir şekilde sunuyoruz.o g cs uu s s Providing security in wireless communication networks is one of the most chal-lenging problems in security systems. Broadcast nature of wireless networks makethem more vulnerable to eavesdropping and active attacks when compared to terres-trial ï¬xed networks. Also, wireless networks are resource limited especially for powerand bandwidth possibilities, which makes harder to provide security in these systems.These problems become much severe for wireless networks having very large numberof members and high member join-leave characteristic.In this thesis, in order to address aforementioned problems, we propose sevennovel studies each of them provides eï¬cient solutions for these problems in wirelessnetworks. We especially focus on providing security in satellite networks and militaryMobile Ad-hoc NETworks (MANET). We bring novelties to wireless network securitysystems in three main points: Structural design, integrated key management tech-niques and novel cryptographic approaches that have not been used in Secure SatelliteMulticast Systems (SSMS) and military MANETs. Our structural design principles,integrated with hybrid key management techniques, are based on ? independency oftiers ? principle. In this principle, modiï¬cation in a tier does not aï¬ect all other tiersin the network system. Our hybrid key management techniques combine centralizedlogical key tree based key management techniques and decentralized key managementtechniques in an eï¬cient manner. We speciï¬cally utilized appropriate cryptographicmethods to our security mechanisms.We propose Two-Tier Pintsov-Vanstone Signature Scheme (TTPVSS), which in-troduces our independency of tiers principle and a novel hybrid key management tech-nique. These approaches signiï¬cantly reduce rekeying workload of satellites and providemany advantages when compared to traditional methods. Also, as a novelty, TTPVSS2uses Elliptic Curve Pintsov-Vanstone Signature Scheme (ECPVSS), which provideshigh security and advantages. Then, we propose a new three-tier satellite multicastsecurity mechanism based on Elliptic Curve Menezes-Qu-Vanstone (ECMQV). Thissecurity mechanism additionally uses special properties of GEO, MEO and LEO satel-lites for better performance and security. ECMQV, diï¬erent from classical key ex-change and digital signature schemes, achieves major cryptographic goals and securityagainst active attacks. Our another study, NAMEPS, N-tier sAtellite Multicast sEcu-rity Protocol (Mechanism) based on Signcryption schemes uses N-tiered structure andEï¬cient Large Key management protocol (ELK) based hybrid key management tech-nique, which further reduces rekeying and cryptographic workload of satellites. As anovel approach, NAMEPS uses a multi-recipient signcryption scheme, which providescomputational and storage advantages. Apart from SSMS, we propose HIMUTSIS,HIerarchical MUlti-Tier adaptive ad-hoc network security protocol based on SIgncryp-tion type key exchange Schemes for military MANETs. In HIMUTSIS, we propose anovel multi-tier structure for military MANETs, which reduces threshold cryptogra-phy requirement and single point of failure problems. Also, as a novelty, HIMUTSISuses a multi-level security system and signcryption based key exchange protocols thatprovides high security and performance together. In addition to these, we also studiedon improving some existing cryptosystems. In this sense, we propose IMC (ImprovedMerkle Cryptosystem), which has signiï¬cant security advantages over both MC (MerkleCryptosystem) and VMC (Variant of Merkle Cryptosystem). Security of IMC is com-patible with today?s modern public key cryptosystems. Apart from these, we work onSTAKE (Signcryption Type Authentic Key Establishment), which integrates signcryp-tion based approaches with our IMC algorithm. As a result, in this thesis, we presentour major studies for wireless network security and cryptography in an integratedmanner providing many advantages when compared to the traditional approaches. 147