Langs het gekanaliseerde riviertje de Pekel Aa vestigden zich steeds meer kolonisten, voor een niet onbelangrijk deel afkomstig uit de Duitse landen. De door de stad Groningen gestichte kerk werd in 1640 een feit met de bouw van de eerste hervormde kerk. De eerste predikant was W. Johannes. Tussen 1683 en 1685 werd de kerk herbouwd en ontstond de huidige hervormde kerk. In 1704 volgde een kerk in Nieuwe Pekela (Boven Pekela) waarbij er een nieuw kerspel Nieuwe Pekela ontstond. Tot 1795 werd het kerspel Oude Pekela grotendeels bestuurd vanuit de stad Groningen, als eigenares van de meeste gronden in Pekela, en heerser over het Oldambt en Westerwolde. De door de stad aangewezen Stadsveenmeester hield toezicht over de wegen en wateren, de vervening en de ontginning.
In 1599 kocht de Friese compagnie de Pekeler venen langs het riviertje de Pekel Aa van de eigenerfden van Winschoten. Hiermee wordt onder leiding van Feicke Alles Clocq begonnen met de vervening van het gebied. Men begon met het afgraven van turf in wat later Oude Pekela zou worden en werkte langzamerhand in zuidelijke richting. Geredeneerd vanuit de stroomrichting van het water van de Pekel Aa werkte men van benedenstrooms naar bovenstrooms. Oorspronkelijk heette Oude Pekela dan ook Beneden Pekela. De naam Oude Pekela werd pas de officiële benaming toen er aan het begin van de negentiende eeuw burgerlijke gemeenten werden gevormd.
In 1635 maakte de stad Groningen zich er meester van het gebied en stichtte hier in 1640 een kerk en een school. Hierbij splitste Oude Pekela zich in dat jaar als zelfstandig kerspel van het kerspel Winschoten waartoe het tot die tijd behoorde.
De locatie van het huidige Oude Pekela lag voor de ontginningen vanaf de 16e eeuw in een moerassig en onherbergzaam gebied, het Boertanger moeras. Dit hoogveen gebied werd langs de vele riviertjes, in de dalen, toen reeds bewoond door enkele veehouders. Dit kan worden afgeleid uit de vondsten van haardkuilen die bij opgravingen in de jaren 1980-1990 aan het licht kwamen.