Microsoft Copilot und seine Vorgänger: Die „natural language search“ in Windows 7

Der Microsoft Copilot ist eigentlich nur die neuste Stufe eines von Microsoft schon lange gehegten Traums – mit Computern in natürlicher Sprache zu kommunizieren.

Die Versuche in diese Richtung gehen schon lange zurück, so zeigt das Bild oben die Ordneroptionen in Windows 7 und die Option „Use natural Language search“.

Brandon Paddock von Microsoft berichtet auf twitter darüber – und in welche Richtung die KI-Entwicklung bei Microsoft geht. Ich habe den Thread hier zusammengefasst und mit Deepl übersetzt:

Als ich 2005 bei Microsoft anfing, hatte sich mein ursprüngliches Team von einem „NUI“-Team (Natural User Interface) abgespalten. Wir arbeiteten u. a. an einer natürlichsprachlichen Suche. Unser Ziel war es, Abfragen wie „Zeige mir alle aktuellen E-Mails von Paul mit Excel-Anhängen“ zu ermöglichen.

Wir haben sogar viele Jahre lang eine Basisversion in Windows ausgeliefert! Aber sie war standardmäßig ausgeschaltet, und fast niemand wusste davon.

[Mehr dazu gibt es hier zu lesen]

Das lag zum Teil daran, dass wir die Kluft zwischen den Erwartungen der Benutzer an die Abfragen (und deren Funktionen) und den tatsächlich unterstützten Funktionen nicht wirklich überbrücken konnten.

Das Team entwarf sogar eine UX, um dieses Problem anzugehen, die leider nie das Licht der Welt erblickte.

Damals erforderte die Unterstützung natürlicher Sprache im Grunde eine Menge hart kodierter Regeln. Aber es gibt unzählige Möglichkeiten, dieselbe Idee mit natürlicher Sprache auszudrücken. Es gab immer eine Lücke, und unsere Bemühungen, sie zu schließen, waren nicht sehr erfolgreich.

Dank jahrelanger Forschung und Entwicklung sowohl bei Microsoft als auch im akademischen Bereich und in der Industrie sind die Dinge jetzt anders. „Große Sprachmodelle“ haben das Spiel verändert, und obwohl es immer noch Lücken zwischen den Erwartungen und der Realität geben kann, ist es viel einfacher, diese zu überbrücken (durch UX, Erdung, etc.).

Meiner Meinung nach liegt das größte Versprechen von LLMs nicht in ihrer Fähigkeit, Fakten und anderes Wissen zu lernen, sondern vielmehr in ihrer Fähigkeit, natürliche Sprache zu verstehen und zu verwenden. Dies ist ein entscheidender Faktor für die Interaktion zwischen Mensch und Computer.
Ich beschreibe Sprache als die Art und Weise, wie wir den menschlichen Verstand programmieren. Auf diese Weise geben wir Wissen von einer Generation zur nächsten weiter. Auf diese Weise kodieren Menschen Ideen, geben sie an andere weiter und entschlüsseln sie auf der anderen Seite.

Jetzt fangen wir an, Maschinen mit der gleichen Fähigkeit auszustatten.
Es wird einige Zeit dauern, bis wir die wertvollsten Möglichkeiten und Orte gefunden haben, um diese Fähigkeit zu nutzen, sowie die Erfahrung zu verfeinern und Fallstricke zu beseitigen, wo wir sie finden. Einiges davon kann man letztlich nur durch Ausprobieren lernen. Eine wachstumsorientierte Denkweise ist der Schlüssel.

Ich habe noch nie erlebt, dass bei Microsoft oder anderswo so schnell so viele Innovationen entstanden sind. Es ist wirklich beeindruckend.

Es erinnert mich an die Anfänge des iPhones, als eine neue Technologie plötzlich fast unendliche Möglichkeiten eröffnete – mit erstaunlichen neuen Apps, die jeden Tag auftauchten.

Ich glaube wirklich, dass UX in natürlicher Sprache die Art und Weise, wie wir mit Technologie arbeiten, verändern wird.

Ich kann es kaum erwarten, dass Sie alle unsere ersten Bemühungen hier selbst erleben können.


Hier noch der Thread im Original zusammengefasst:

When I first joined Microsoft in 2005, my original team had splintered off from a “NUI” (Natural User Interface) team. One of the things we worked on was natural language search. Our goal was to enable queries like “show me all the recent emails from Paul with Excel attachments”.

We even shipped a basic version in Windows for many years! But off by default, and almost no one knew about it.

It was off by default partly because we hadn’t really bridged the gap between user expectations of what queries should work (and what they should do) versus what was actually supported.

The team even designed a UX to address this, which sadly never got to see the light of day.

Back then, natural language support basically required tons of hard-coded rules. But there are countless ways to express the same idea using natural language. There was always going to be a gap, and our efforts to close it hit diminishing returns.

Things are different now, thanks to many years of R&D both at Microsoft and across academia and the industry. “Large Language Models” have changed the game, and while there can still be gaps between expectations and reality, it’s MUCH easier to bridge (via UX, grounding, etc).

In my opinion, the greatest promise from LLMs comes not from their ability to learn facts and other knowledge, but rather from their ability to understand and use natural language. This is a game changer for human-computer interaction.

I describe language as the way we program the human mind. It’s how we pass down knowledge from one generation to another. It’s how people encode ideas, transmit them to others, and decode them on the other side.

Now, we’re beginning to endow machines with that same ability.
It’s going to take time to find the most valuable ways and places to use this capability, as well as to refine the experience and address pitfalls where we find them. Some of this ultimately can only be learned by trying things out. A growth mindset is key.

I’ve never seen so much innovation happen so quickly at Microsoft, or really anywhere. It’s truly awe-inspiring.

It reminds me of the early days of the iPhone, when we saw a new technology suddenly unlock nearly endless opportunities – with amazing new apps popping up each day.

I really believe natural language UX is going to be transformational to the way we work with technology.

I can’t wait for all of you to experience our first efforts here for yourselves.

 

 

Die Weltzeituhr in Windows 7

Du musst jemanden in New-York anrufen und weisst nicht, ob Du ihn dann gerade aufweckst? Oder Apple stellt das neueste iPhone um 11h ET (Eastern Time) vor und Du willst das Event nicht verpassen? Dann brauchst Du eine Weltzeituhr, die in neueren Windows Versionen schon eingebaut ist.  Dazu klickst Du einfach unten rechts auf die Uhrzeit:

Um die beiden Weltzeituhren zu wählen, gehst Du einfach auf „DATUM UND UHRZEITEINSTELLUNGEN ÄNDERN“ und dann zu der Reiterkarte „ZUSÄTZLICHE UHREN“:

Sollte es das in Deiner Windows Version noch nicht geben, kannst Du Dich behelfen, indem Du einfach kurzzeitig bei den Uhrzeiteinstellungen auf die Zeitzone von Interesse umstellst.

Alternativ gehst Du auf eine Website wie zeitzonen.de, wo Du alles um die Zeit auf der Welt erfährst.

Bilder von Windows Phone aus übertragen

Diese Frage wird mir immer wieder gestellt: Wie kann ich meine Bilder von meinem Windows Phone auf meinen PC übertragen?

Hierzu gibt es verschiedene Möglichkeiten, die ich kurz vorstellen will:

OneDrive

Am einfachsten geht es fast über OneDrive, indem man alle Bilder automatisch in OneDrive sichern lässt.

Dazu gehen Sie auf Ihrem Windows Phone zu

Einstellungen > Sicherung > Fotos und Videos.

Dort aktivieren Sie am besten „Beste Qualität (WLAN erforderlich)“. Sobald ein WLAN verfügbar ist, werden die Fotos automatisch in den OneDrive Speicher hochgeladen, von wo aus sie überall abrufbar sind, wo Sie einen Internet Zugang haben – also vom PC aus, Android Phone, iPad, Surface, iPhone…

Einzelne Fotos können Sie manuell hochladen, indem Sie sie in die Bildergalerie gehen, die Bilder oder das Bild auswählen, dann den Sharing Button drücken und als Ziel Onedrive wählen. Wenn das nicht verfügbar ist, musst ggf. die OneDrive App installiert werden, die es hier gibt.

Übrigens, die OneDrive App gibt es auch für Windows, iOS (iPhone, iPad) und Android, so dass man damit ganz leicht Bilder und andere Daten zwischen diesen System synchronisieren kann.

Einfach über den Explorer

Möchten Sie die Daten nicht über die Cloud transportieren, sollten Sie die automatische Sicherung ausschalten. Wenn Sie Ihr Smartphone per micro USB Kabel an Ihren Rechner mit Windows anschließen, wird das Smartphone als Laufwerk zur Verfügung gestellt, auf das Sie über den Explorer oder jeden anderen Dateimanager zugreifen können:

bilder-uebertragen-lumia-windows-phone

 

Von dort aus können Sie die Bilder wie gewohnt kopieren. Also z.B. per Drag and Drop oder mit der Tastenkombination STRG-C.

Über die Windows 8.1 Windows Phone App

Wenn Sie ein Gerät mit Windows 8 oder 8.1 haben – also z.B. ein Surface, Notebook, Hybridgerät, normaler Desktop Rechner – können Sie die Windows Phone App installieren. Das fragt Sie übrigens Windows 8.1. automatisch, wenn Sie Ihr Handy das erste mal per USB verbinden.

Dort können Sie dann unter den Einstellungen wählen, dass neue Bilder automatisch übertragen werden sollen:

bilder-importieren

 

Mit anderen Windows Versionen

Wenn Sie Windows 7 einsetzen, können Sie die Desktop Anwendung für Windows Phone verwenden, die es hier zum Download gibt.

Windows 10 Benutzern steht der „Begleiter für Telefon“ zur Verfügung, die hier heruntergeladen werden kann.

Mit anderen Betriebssystemen

Möchten Sie Ihr Lumia (oder anderes Windows Phone) mit Ihrem Apple Mac (OS X) per Kabel synchronisieren, brauchen Sie die Windows Phone App für Mac, die es hier gibt.

Da Windows Phone MTP (Media Transfer Protocol) nutzt, kann ein entsprechendes Smartphone auch an einen Linux Rechner mit einer gebräuchlichen aktuellen Distribution über USB anschließen und das herunterladen von Bildern dürfte in der Praxis kein Problem sein.

Notfalls kommt man mit jedem Gerät, das über einen modernen Browser verfügt, über OneDrive an die Bilder von Ihrem Windows Phone (s.o.).

Per NFC

Einige Windows Phone Smartphones (z.B. Lumia 920, 925, 930) haben NFC eingebaut, so dass man Fotos mit anderen NFC fähigen Smartphones tauschen kann. Dazu einfach das oder die Fotos auswählen, auf das Sharing Symbol gehen und dann Zum Senden berühren wählen und den Anweisungen folgen.

Weitere Sharing Apps

Grundsätzlich lassen sich Bilder über die Sharing Funktion über zahlreiche Apps an andere Geräte senden. Einfach die gewünschten Bilder ausählen, Sharing Symbol wählen und dann die gewünschte App – z.B. E-Mail, Whatsapp, facebook Messenger, threema und viele mehr.

So können Sie die Bilder z.B. einfach an die gewünschte E-Mail Adresse senden.

Diese Anleitung gilt für Windows Phone 8 und 8.1 und damit u.a. für folgende Smartphones:

Microsoft (Nokia) Lumia 430, Lumia 435, Lumia 520, Lumia 525, Lumia 530, Lumia 532, Lumia 535, Lumia 620, Lumia 625, Lumia 630, Lumia 635, Lumia 636, Lumia 640, Lumia 640XL, Lumia 720, Lumia 730, Lumia 735, Lumia 820, Lumia 830, Lumia 920, Lumia 925, Lumia 928, Lumia 930, Lumia Icon, Lumia 1020, Lumia 1320, Lumia 1520

Samsung ATIV S, ATIV S Neo, ATIV SE

HTC 8s, 8x, One M8 for Windows Phone

Huawei Ascend W1

Prestigio MultiPhone 8400 DUO

Blu HD Windows

HTC Desire HD Test: Das DHD am PC

Das HTC Desire HD versteht sich glänzend mit PCs mit Microsoft Windows, ich selbst habe es intensiv mit MS Windows 7 getestet:

Zunächst sollte man die Anwendung HTC Sync auf seinem Rechner installieren, die man hier herunterladen kann. Danach einfach das DHD mit dem mitgelieferten USB Kabel mit dem PC verbinden, es werden automatisch einige Treiber installiert und auf dem Display erscheint ein Menü mit folgenden Einstellungen:

Nur laden
Als Defaulteinstellung wird das Smartphone am PC einfach nur aufgeladen. Das dauert zwar etwas länger als über das Netzteil – doch überall, wo ein USB-Port zur Verfügung steht, kann das doch recht energiehungrige DHD unkompliziert geladen werden. Übrigens, geladen wird der Akku bei allen Einstellungen, also auch bei den folgenden

HTC Sync
IM HTC Sync Modus können Daten zwischen PC und Telefon einfach synchronisiert werden. In der Software kann man wählen, welche Inhalte in welchem Umfang abgeglichen werden sollen:

  • Musik
  • Galerie (Photos und Videos)
  • Kalender (Outlook)
  • Kontakte (Outlook)
  • Bookmarks (MSIE, Firefox…)
  • beliebige Dateien

htc-sync

Festplatte
Im Festplattenmodus verhält sich das Telefon wie ein externer Datenträger und Dateien können einfach hin und her kopiert werden.

USB Anbindung
Bei dieser Einstellung wird der Internet-Zugang des Telefons für den PC freigegeben – praktisch, wenn man mit dem Notebook aus von unterwegs ins Web möchte

Internet Durchgang
Diese Funktion ist praktisch, wenn man Datentraffic sparen möchte und kein WLAN zur Verfügung hat: das DHD nutzt den Internetzugang des PCs. Ideal, wenn man Systemupdates installieren möchte.

Besonders praktisch finde ich die beiden letztgenannten Punkte und das DHD arbeitet für mich perfekt mit Windows zusammen.

Am Apple Mac und unter Linux habe ich das Desire HD nicht getestet.

Dieser Beitrag erschein im Rahmen meines HTC Desire HD Praxistests.