Auf konzeptioneller Ebene steht bei der SOA-Einführung an erster Stelle die Bestimmung des Umfangs. Dieser kann vom Einzelprojekt über einen ganzen Geschäftsbereich bis hin zu einer unternehmensweiten Initiative reichen. Um dabei die Unterstützung des Managements zu garantieren und die Risiken der Einführung beherrschbar zu halten, empfiehlt sich zudem ein inkrementelles Vorgehen, das die Realisierung prestigeträchtiger Pilotprojekte beinhalten sollte: groß denken, klein anfangen und Eindruck machen. Weitere Erfolgsfaktoren liegen in der Wahl der passenden Vorgehensweise und angemessener Kriterien für die Definition der Services. Bezüglich des Vorgehens sind sowohl Top-down und Bottom-up als auch zweistufige Ansätze vorstellbar, die je nach Ziel der Initiative mehr oder weniger gut geeignet sind. Soll zum Beispiel ein Anwendungssystem in eine SOA integriert werden, so ist ein Bottom-up-Ansatz ausgehend von der aktuellen Funktionalität des Systems zielführend. Bei der Beschreibung eines neuen Systems kann dagegen der Top-down-Ansatz bessere Ergebnisse bringen. Die wichtigsten Kriterien hinsichtlich Granularität und Abgrenzung der Services sind die Änderungshäufigkeit und die Wiederverwendbarkeit der betreffenden Dienste. So sollten Funktionalitäten mit hoher Wiederverwendbarkeit von solchen mit geringer getrennt werden. Gleiches gilt für die Änderungshäufigkeit, bei der sich Services für Basisfunktionen typischerweise selten ändern, während Services, die prozessuale Funktionalitäten abbilden, einer höheren Änderungshäufigkeit unterliegen. Die Beschreibung von Service-Kontrakten, deren Management und die Konsolidierung in einem Metadaten-Management runden dieses Vorgehen ab.