Treffen Sie Diem

Nehmen wir zum Beispiel an, Sie möchten wissen, wie viel es kostet, Ihre Eier einzufrieren. Sie würden diese Frage in DIEM eingeben, und die KI-Komponente würde ihre breitere Internetdatenbank- und DIEM-Benutzer-kontributierte Inhalte verwenden, um sowohl eine Ein-Sendungs-Antwort als auch eine längere Antwort zu generieren. Und Sie würden beides zusammen mit allen von der Community erstellten Beiträge zu diesem Thema erhalten, falls Sie daran interessiert waren, sie durchzuführen.

Auf diese Weise kombiniert Diem die Leichtigkeit der KI mit der Personalisierung von Wissen von tatsächlichen Frauen und nicht-binären Leuten-die Art von anekdotischen Informationen und Lebenserfahrungen und Tratsch Oft von Suchmaschinen aufgrund von Voreingenommenheit deproriert (mehr dazu unten). Laut Bates ist es die Kombination, die die Informationen über Diem sowohl nützlich als auch direkt für Menschen aus diesen Gemeinden anwendbar macht. „Die Art und Weise, wie wir immer über das Bauen nachgedacht haben, ist:„ Wie können wir einen Raum schaffen, in dem Sie nach den kollektiven Erkenntnissen Ihrer Gemeinschaften suchen können?'" Sie sagt. „Wenn Sie gemeinsam mit Ihrer Community aufbauen können, prägt es die Stimme, Daten und Erfahrung und fühlt sich anders an.”

Das Problem der geschlechtsspezifischen Voreingenommenheit auf Suchmaschinen und KI -Plattformen

Da in der gesamten Gesellschaft die geschlechtsspezifische Voreingenommenheit weit verbreitet ist, existiert es auch in Internet-Such-Engine-Algorithmen und fuzi. Es ist die gleiche Lücke, mit der Bates konfrontiert wurde, als er versuchte, anwendbare, relatable Informationen zur Pille am Morgen im Jahr 2018 zu finden.

Betrachten Sie als Beweis die Ergebnisse einer 2022-Studie, für die die Forscher feststellten, ob Google-Bilder in Ländern mit höheren geschlechtsspezifischen Qualitätswerten (bewertet mit dem globalen Geschlechtslückenindex) auch eine Geschlechtsverzerrung zeigen würden. Zu diesem Zweck führten sie in ihrer ersten Studie nach dem Wort "Person" in der Landessprache von 37 Ländern und 52 Ländern in ihrer zweiten. In allen Fällen ergaben die Google -Suchergebnisse in Ländern mit einem höheren Maß an gesellschaftlicher Ungleichheit der Geschlechter eine größere Geschlechterunterschiede (was bedeutet, dass ein höherer Prozentsatz der ersten 100 Bildergebnisse einen Mann gegenüber einer Frau zeigte).

Es wurde auch festgestellt. Zum Beispiel, Bloomberg berichtete, dass ein Computerwissenschaftler Chatgpt dazu gebracht hat, Code auszuspucken, in dem nur asiatische oder weiße Männer gute Wissenschaftler machen würden. Der CEO des Unternehmens reagierte auf den Wissenschaftler auf Twitter und ermutigte die Benutzer, solche Antworten zu "Daumen herunter".

Als ich Chatgpt eine ähnliche Frage stellte, heißt es, es sei nicht angemessen, das Geschlecht oder die Rasse einer Person zu verwenden, um festzustellen, ob sie sich in einem Beruf auszeichnen würden. Aber obwohl es so aussieht, als würde die KI derzeit lernten, weniger voreingenommen zu sein, stützt es sich immer noch auf objektive, mitfühlende Benutzer, um sie so zu trainieren. (Während Diems KI weitgehend auf Informationen geschult ist nach und für Frauen und nicht-binäre Menschen und nicht derselben Frage der Anti-Frauen-Verzerrung aus dem Sprung unterliegen.)

"KI ist nur so gut wie die Daten, die sie ausgebildet sind, und weil alle Menschen Vorurteile und Vorurteile haben, wenn ihre Daten verwendet werden, wird diese Vorurteile und Vorurteile ein Teil der KI."-Nina Vasan, MD, Psychiater

Diese Erkenntnisse veranschaulichen, wie die Verzerrungen, die wir beibehalten, wenn Menschen auf natürliche Weise auf die von uns erstellten Produkte und die Datensätze übertragen werden, zu denen wir einen Beitrag leisten. "KI ist nur so gut wie die Daten, auf denen sie ausgebildet sind, und weil alle Menschen Vorurteile und Vorurteile haben, wenn ihre Daten verwendet werden, wird diese Vorurteile und Vorurteile ein Teil der KI" der digitalen Therapieplattform Real und Gründer und Geschäftsführer von Brainstorm: Das Stanford Lab für psychische Gesundheit Innovation.

Wie Diem sich speziell für Frauen und Nicht-binäre Menschen zu einer unterhaltsamen, informativen Suchmaschine werden soll

Angesichts von Diems beabsichtigten Benutzer demografische Benutzer denkt Bates an, sie denkt an die auf der Plattform geteilten Informationen und generiert vom Chatbot als Antworten auf die Fragen, die Menschen haben, wenn sie in der "Freundesbühne" ihres Lebens sind. Die Leute nehmen viele Informationen von Freunden ab, wenn sie Mitte zwanzig und früh dreißig sind, sagt sie. Die Idee mit Diem ist, dass Sie Perspektiven einer Vielzahl von Menschen in Ihrem Alter und der Geschlechtsidentität erhalten, mit denen Sie möglicherweise nicht sonst interagiert haben, und dass das kollektive Verständnis allen auf der Plattform zugute kommt.

Da die KI von Diem mit Informationen direkt von Menschen dieser Bevölkerungsgruppe gefüttert wird, ist sie eine repräsentative Plattform von Design. Ab sofort haben Tausende von Frauen und nicht-binärer Menschen Fragen gestellt und Antworten auf Diem zu Themen geteilt, die für sie relevant sind, insbesondere in den Kategorien persönlicher Gesundheit, Geld und Beziehungen-in der Diem's ​​AI am besten ausgebildet ist.

Während es noch lernt, stammt es aus einem breiteren proprietären Datensatz (ähnlich dem, der Chatgpt macht), um Informationen zu Fragen zu finden, die Menschen in der Community noch nicht diskutiert haben. Ein Differenzierungspunkt ist jedoch, dass es immer noch eine "zusammengefasste Diem-y-Antwort" für diese Fragen herausspricht, sagt Bates und verwendet tatsächliche Diem-Konvos, um den Stil und der Ton der Antwort zu informieren.

Da Diem jedoch immer noch ein KI ist, der sich sowohl auf benutzergenerierte Inhalte als auch auf diesen breiteren Datensatz stützt, ist dies sicherlich nicht immun Zu den Problemen, mit denen andere Suchmaschinen und KI -Chatbots, einschließlich falscher, irreführender und, ja sogar voreingenommener Inhalte, konfrontiert sind. Im Gegenzug gibt es in der App und in der Desktop-Version eine Schaltfläche, um Missbrauch zu melden und die Qualität der Informationen.

Diem startet in einer Zeit, in der Regierungsbeamte sowohl in den USA als auch in der Europäischen Union Wege zur Regulierung der KI untersuchen, vor allem wegen der oben genannten Bedenken. In der u.S. Insbesondere hat das Büro von Präsident Joe Biden im Oktober einen Entwurf einer AI Bill of Rights veröffentlicht, einer parteiübergreifenden Gruppe von U.S. Senatoren unter der Leitung von Senator Chuck Schumer arbeiten an der Gesetzgebung, um Leitplanken in der Branche einzurichten.

Aber Bates wird nicht durch den Eintritt in diese Landschaft abgehalten. Sie prognostiziert, dass es eine "interessante Veränderung in der Zukunft des Internets" geben wird, in dem Menschen nach Informationen suchen, die sich speziell an den Ort befassen, wo sie sich in ihrem Leben befinden. Anstatt Google nach Dating -Rat zu bitten, hofft sie beispielsweise, dass Sie bald auf eine Plattform wie Diem gehen werden, die Ihnen Antworten gibt, die von Menschen mit einer ähnlichen gelebten Erfahrung für Ihre eigenen abgeleitet werden.

"Im Moment existieren wir in Monopolen, und das wirkt sich darauf aus, wie wir das Internet nutzen und was wir von Plattformen erwarten", sagt Bates. Schließlich spiegeln diese Monopole oft die Verzerrung zugunsten von Männern wider. "Ich denke, die Zukunft des Internets wird mehr Nischenerlebnisse bieten", sagt sie. Und wer sagt, eine Nische ist notwendigerweise klein? Wie Bates betont, machen Frauen-identifizierende Leute einen nahezu gleichen Anteil der Menschen auf dem Planeten aus. Und jetzt wartet ein riesiger Gruppenchat auf ihre Eingabe.