Otevřený operační systém je takový, ke kterému je publikováno API a je možné pro něj vyvíjet další programy. Například Symbian, Windows Mobile atd.
Uzavřený operační systém je např. Nokia Series 40, tam si žádné programy neuděláte (s výjimkou Javy, ale to je jiná story).
Vy jste měl na mysli asi Open Source operační systém, to je ale trochu něco jiného.