1161年，拜占庭皇帝阿莱克修斯一世在菲洛梅利翁战役（BattleofPhilomelion）中击败了罗姆苏丹国，终止了突厥人对帝国的侵扰，暂时稳固了帝国的东部边境，之后帝国在小亚细亚处于守势，对于东方的继续征服运动也告一段落。
约翰二世继位后继承了父亲在小亚细亚战略的残局，此时突厥人开始逐渐向帝国控制的小亚细亚西部沿海地区施压，占领了门德雷斯河谷上游（UpperMaianderValley）的老底嘉城（Laodicea）。
并威胁到整个门德雷斯河谷地区，突厥人以卡里亚地区（Karia）为中心将拜占庭帝国控制下的阿塔莱亚（Attaleia）与小亚细亚西北部的领土相隔绝开，切断了通往小亚细亚南部海岸的陆上通路。
1119年，大批突厥人占领了弗里吉亚（Phrygia）地区和门德雷斯河沿岸的城市并突袭了色雷斯西亚军区（TheThemeofThracesian）的南部地区后，约翰二世开始着手清理门德雷斯山谷地区的突厥人。
约翰同他的朋友约翰·阿苏克（John·Axuch）一同随军作战，阿苏克是突厥人，年幼时被俘至拜占庭帝国，作为一名基督徒陪伴在约翰身边一起长大，此时拥有拜占庭帝国总司令（GrandDomestic）的头衔。
当帝国军队到达拜占庭城市费拉德尔菲亚(Philadelphia)时，约翰建立了一个坚固的营地，并派出一支部队在总司令约翰·阿克苏的带领下进攻老底嘉。突厥人“在经验丰富的指挥官阿尔普-哈拉（Alp-qara）的指挥下，约有700-800名突厥人守卫这座城市”。
不久之后，约翰的主力军队抵达老底嘉，并在城市周围建造了工事，通过围攻攻克了这座城市,得胜之后的约翰留下一部分兵力驻守这座城市，之后便返回了君士坦丁堡。
在首都短暂停留后，约翰于1120年继续南下，目标是潘菲利亚(Pamphylia)的索佐波利斯(Sozopolis)，该城控制着通往阿塔莱亚的关键路线，具有重要的战略价值。
索佐波利斯“曾是亚洲最伟大的城市之一，坐落在陡峭山丘间，只有一条直通的狭长小径，周围地势险峻，人迹罕至并且有相当的武装守军”，而且受地形影响，攻城器械难以发挥实力，围城所需的物资也难以在短时间内准备妥当，只有让军队以小队的形式推进才能接近这座易守难攻的城市。
约翰二世想出了一个计策，既让这座城市重归罗马，并且为他自己赢得了声誉。他命令两名装备着投掷长矛的骑兵带领他们的部队直奔城门，朝城墙上的突厥人射击，随后假装不敌，将突厥人从城中引诱出来。
其余的拜占庭军队则隐藏在茂密的灌木丛中，等待突厥人经过之后迅速突袭没有防备的城市,之前诈败的拜占庭人也转身面对追击的突厥人。突厥人“被困在前面的拜占庭骑兵和后面的攻城军队之间，大部分被*或被俘，只有少数人脱离了包围圈”。
索佐波利斯城最终被顺利攻克，随后皇帝进一步占领了阿塔莱亚附近的许多城镇及防御要塞，在这之后便返回了君士坦丁堡。至此，约翰二世重新打通了君士坦丁堡至阿塔莱亚的陆上通道，为约翰进一步进军奇里乞亚和叙利亚地区奠定了基础。
小亚北翼的反复拉锯：收复本都地区
帝国西部的问题使得约翰直到1130年才将他的全部精力重新投入到征服小亚细亚上来。和他的父亲一样，他此时的目标是要收复安条克，恢复幼发拉底河边境，并在一定程度上重建拜占庭帝国对小亚细亚内陆的控制。
此时小亚细亚内陆是由塞尔柱人和达尼什曼德人两股势力所控制，塞尔柱人建立的以科尼亚(Ikonion)为中心的罗姆苏丹国(SultanateofRum)统治着小亚细亚中部高原的南部，而达尼什曼德人则控制着北部。
1124年，达尼什曼德人占领了了美利提尼(Melitene)，并准备将他们的“势力范围向南扩展到幼发拉底河地区”。为了实现这一目标，其首领埃米尔加齐（EmirGazi）(1104—1134年执政）于1130年在奇里乞亚击败并*死了安条克公爵博希蒙德二世，并同时将权力延伸到黑海沿岸。
1134年阿巴斯王朝哈里发为表彰其军事功绩，授予其马利克（Malik）的头衔，这是对拜占庭皇帝在小亚细亚领土上统治权的直接挑战，再加上约翰的兄弟伊萨克在达尼什曼德人的宫廷中寻求政治庇护，因此这个王朝也被拜占庭帝国视为一个巨大的威胁，而“压制达尼什曼德人的关键就在于能否占领卡斯塔蒙（Kastamon）”。
1130年，约翰二世开始发起针对小亚细亚北部达尼什曼德人的军事行动，皇帝率军经过比提尼亚(Bithynia)和帕夫拉戈尼亚(Paphlagonias)两省，于1132年利用云梯和其他攻城武器包围并攻克了卡斯塔蒙，收复了科穆宁家族的龙兴之地，并“越过哈利斯河（HalysRiver），袭击了达尼什曼德人的领地”。
第二年，约翰返回君士坦丁堡举行盛大的凯旋仪式来庆祝胜利。埃米尔加齐通过帮助科尼亚的突厥人进攻索佐波利斯来回应约翰，这座城市是拜占庭帝国在小亚细亚南部的重要据点，尽管未能成功夺取，但埃米尔加齐重新包围并夺回了卡斯塔蒙。
1134年，当皇帝再次率军赶到时，达尼什曼德王朝的*埃米尔加齐已经去世，继任的是穆罕穆德加齐（MelikMehmedGazi）（1134—1142年执政），此人控制着卡斯塔蒙，并且与科尼亚的苏丹马苏德一世（MesudI）（1116—1156年执政）不和。
约翰二世抓住这一契机，于马苏德达成和解，相互达成同盟，共同向穆罕穆德进军，在这之后，后者意识到他无法长期对抗两军的夹击，便秘密联系了马苏德，并在信中提议他们应该暂时搁置敌意，共同对抗罗马皇帝，以免突厥人在小亚细亚的基业被破坏。
他最终说服科尼亚苏丹背弃与皇帝的盟约，苏丹的军队就此撤出与皇帝的联合部队。之后约翰在战场上再难取胜，并于1135年撤退到林达科斯河（RhyndakosRiver）沿岸的堡垒中重新休整，并在更激烈的交锋后成功再次收复卡斯塔蒙。
1135年，约翰从卡斯塔蒙南下，继续前往围攻甘格拉（Gangra）。这是“本都地区最大、最著名的城市之一，在之前从未被突厥人统治过”。约翰首先占领了周边地区，在城市周边建立了自己的营地。
突厥守军拒绝了皇帝的和平谈判请求，于是帝国军队包围了城墙并开始围攻战。守城一方凭借着坚固的城墙和顽强的抵抗，让约翰的进攻毫无进展，于是皇帝命令将攻城武器移动到拜占庭军队驻扎的山顶上，这里虽然远离城墙，但凭借高度可以看到城内房屋，约翰下令直接用投石器轰击城内建筑。
甘格拉城内因此受到了大量的伤亡，最终守军的士气崩溃了，向约翰开城投降。然而，这只是一个短暂的胜利，约翰回到都城几个月后，突厥人通过围困再次夺下了甘格拉。
通过两次对卡斯塔蒙和对一次甘格拉的成功围攻，很难说这是一次成功的小亚细亚再征服战争，当皇帝离开后，这些地方又被重新占领了，期待约翰能用他所能负担得起的少量驻军来守住这些地方是不现实的。
但通过军事行动，约翰到达了他展现武力的目的，回应突厥人过去对帝国领土的掠夺，并给君士坦丁堡的所有人及忠诚动摇的帝国随从留下深刻的印象。
1139年，约翰二世再次深入小亚细亚北部与突厥人展开作战，达尼什曼德人“越过萨卡里亚河（SangariosRiver），对沿岸的地区发动了袭击，并通过驱逐兽群来破坏当地人的生计”。
皇帝尽管身体虚弱，但还是从君士坦丁堡出发，最后一次向达尼什曼德人进军。他的军队沿黑海南部海岸穿过比提尼亚和帕弗拉戈尼亚，皇帝军队的出现成功逼退了来犯的达尼什曼德人，同时赶走了各种各样的兽群。
这件事结束后，皇帝回到洛帕迪翁（Lopadion），他计划在这一地区停留一段时间，并命令部队集合向入侵亚美尼亚地区的突厥人进军。
此前一直脱离拜占庭帝国统治的特拉布宗大公君士坦丁·加布拉斯（ConstantineGabras），自1126年以来一直控制特拉布宗（Trebizond），在帝国武力的震慑下选择结束自半独立的自治统治，与帝国军队共同对抗达尼什曼德人，查尔迪亚地区（Chaldias）重新置于帝国的直接控制之下。
紧随其后的是达尼什曼德人的据点新凯撒利亚(Neokaisareia)，新凯撒利亚的统治者是前面提到的穆罕默德，他征服了伊比利亚地区(Iberias)的一部分和美索不达米亚的部分地区，他血统可以追溯到亚美尼亚阿尔萨息王朝(ArsacidDynastyofArmenia)，也是达尼什曼德王朝的直系后裔,他们都是“勇敢而刚毅的战士，是征服罗马领土的人当中最强壮、最残忍的”。
1139年冬季，皇帝踏上敌人的土地，展开对新凯撒利亚的围攻。罗马人和突厥人围绕这座城市进行了许多战斗，但正值气候严寒，卡帕多西亚(Cappadocia)的土地被霜冻覆盖，帝国军队的补给几乎耗尽，军队中的驮畜和战马大量死亡。
而突厥人仍不断侵袭和*扰陷入困境的拜占庭军队。当皇帝能够与突厥人正面作战时，拜占庭骑兵却被击退了。
约翰在军营里重新组织他的军队，用一种诡计给敌人一种假象，让对方以帝国军队的人数要比自己多，他“收集了所有的步兵旗帜，并把它们交给了骑兵，他把最好的马分配给他最好的骑手”，这些骑手被描述为“精通骑枪的拉丁人（法兰克人）和拜占庭人”。
至此，约翰二世一方面从突厥人手中夺取了小亚细亚西部的老底嘉和索佐波利斯，稳固了通往阿塔莱亚的路上通路，保证了小亚细亚西南部沿岸港口不受内陆腹地的影响，并且恢复了对小亚细亚北部本都沿海地区的统治。
控制了从黑海沿岸到内陆的路线，使拜占庭在小亚细亚东北部的本都领土与小亚细亚西南部的奇里乞亚领土得以连通起来。
而对于小亚细亚中部盘踞的两大势力，约翰经过多年的艰苦战事却仍难获得关键性的胜利，但通过外交压力与频繁的武力威慑依然对突厥势力起到了一定的压制作用，使得其不敢再随意侵扰拜占庭领土，为约翰之后的军事行动提供了一定程度的保障。
