Studiamo alcuni casi particolari di operatori di Sturm-Liouville singolari, per cui non vale rigorosamente la teoria sviluppata nei moduli precedenti.
Iniziamo considerando il caso in cui abbia degli zeri in . Un esempio è quello in cui si ha l'operatore di Legendre:
In questo caso l'operatore di Sturm-Liouville assume la forma seguente:
È evidente che in questo caso non siamo in grado di scrivere l'equazione differenziale associata al problema, come invece si fa per l'operatore di Sturm-Liouville regolare. Ciò implica l'impossibilità di scrivere e quindi risolvere per inversione perché agli estremi del suo intervallo di definizione. Risulta dunque pregiudicata la costruzione di e quindi anche la risoluzione del problema.
Un secondo caso particolare si ha quando l'intervallo di definizione è illimitato. In tal caso tutta la teoria sviluppata in precedenza non è più applicabile: tutte le disequazioni che sono state usate proprio perché l'operatore era definito su intervalli limitati ora non sono più vere e quindi non sarà più possibile dedurre la compattezza di . Generalmente, per risolvere problemi di questo tipo si determinano le informazioni necessarie non dalle condizioni al bordo (ora non presenti) ma dal fatto che la soluzione del problema debba stare nel dominio di definizione dell'operatore di Sturm-Liouville .
A tal proposito si consideri l'azione dell'operatore:
Ora sarà possibile scrivere l'equazione differenziale , tuttavia una sua completa risoluzione dovrà essere trovata tenendo presente che si sta lavorando su e non su un intervallo limitato. Si ha per l'omogenea:
Dunque:
Una soluzione della non omogenea può essere trovata con il metodo di variazione delle costanti:
Da cui si ricava:
Ora, i valori di non possono essere ricavati richiedendo la validità di particolari condizioni al bordo, dato che si sta lavorando su tutto , ma si dovranno ricavare imponendo che . Si trova che e quindi:
Quindi la funzione di Green per questo particolare operatore di Sturm-Liouville è data da:
In tutto ciò si ha un problema: l'operatore appena trovato, pur essendo limitato, continuo e simmetrico, non è compatto. Ciò ci porta a concludere che l'operatore inverso non ammette sistema ortonormale completo e quindi non è possibile concludere nulla sulle proprietà di .
Concludiamo presentando un ultimo caso particolare, simile a quello appena visto:
Sia . Per definire completamente sono necessarie delle considerazioni ulteriori, perché ora l'insieme di definizione (pur essendo illimitato) ha bordo. Pertanto sia:
Dove l'ultima delle richieste è una rappresentazione equivalente delle condizioni al bordo di Robin. Un problema siffatto, proprio perché ha bordo, potrà essere definito con differenti condizioni al bordo. La trattazione specifica è pressoché la stessa vista nell'esempio precedente, con l'aggiunta della necessità di dover verificare che rispetti delle opportune condizioni al bordo. Nello specifico si avrà:
con: